Sarı kemik iliği sadece uzun kemiklerde bulunmaktadır.
Sarı kemik iliğinin büyük ölçüde yağ hücrelerinden oluşur ve yağ hücrelerinin renginden dolayı bu ismi alır. Yeni doğanlarda kemik iliğinin tamamı kırmızı kemik iliğiyken, büyümeyle birlikte, zamanla yerini sarı kemik iliğine bırakmaya başlar. Sarı kemik iliği, ağır kanamalar ya da hipoksi durumunda, aktif olarak kan hücresi üretme yeteneğine sahip olan kırmızı kemik iliğine dönüşebilir. Yani, bir anlamda, kırmızı kemik iliğine yedek görevi görür.