Podstawową cechą Kaaba jest Czarny Kamień. Czarny Kamień jest skałą o nieznanym pochodzeniu, którą muzułmańscy wyznawcy uważają za święte. Muzułmanie wierzą, że kamień ten jest reliktem czasów Adama i Ewy, ustanowionych przez Proroka Mahometa.
Z drugiej strony naukowcy początkowo wierzyli, że kamień jest meteorytem, ale teraz wierzą, że może to być również kawałek bazaltu lub naturalnego szkła. Kaaba zawiera również trzy filary, które podtrzymują dach, oraz niewielki stolik ołtarzowy służący do przechowywania pachnących olejków. Kilka lampopodobnych przedmiotów zwiesza się również z dachu Kaaba.