Kabenin belli başlı bölümleri şunlardır:
1. Hac Örtüsü (Kiswa): Kabe'nin en üst bölümünü kaplayan siyah renkli bir örtüdür. Her yıl Mekke'de özel olarak dokunur ve Kabe'nin üzerine asılır. Aynı zamanda Kabe'nin içerisini de süslemek için kullanılan örtülere "Mâ-i kabe" denir.
2. Hatim: Kabe'nin Avrupalıların "yarım ay" olarak adlandırdıkları, sahabe döneminden beri oluşmuş yarım daire şeklindeki duvar kalıntısıdır. Kabe'nin dışında kalan bu bölüm, Mekke'nin fethinden sonra Kabe'ye dahil edilmemiştir.
3. Ruknu'l Yamani: Kabe'nin güneydoğusunda yer alan ve İslam geleneğine göre secde yerlerine en yakın köşeyi temsil eden bölümdür. Müslümanlar buraya varıp ellerini sürer ve dua ederler.
4. Hacerü'l Esved: Kabe'nin doğu köşesinde yer alan ve İslam'ın en eski sembollerinden olan Siyah Taş'tır. Hacerü'l Esved, Hz. İbrahim ve oğlu İsmail tarafından yapılan Kabe'nin köşesine yerleştirilmiştir.
5. Maqam-ı İbrahim: Kabe'nin dışında yer alan, Hz. İbrahim'in ayak izlerini simgeleyen bir platformdur. Namaz kılarken, Müslümanlar bu bölgede iki rekât namaz kılarlar.
6. Mescid-i Haram: Kabe'nin çevresinde yer alan ve içinde birçok önemli mescid, bina ve alanı barındıran geniş bir ibadet kompleksidir. Kabe'nin hemen etrafındaki alan, Mescid-i Haram olarak adlandırılır ve tüm Müslümanların haccı sırasında tavaf ettiği, beyaz kabartmalı mermer döşeli bir alanı içerir.
Kabenin bölümleri, Müslümanlar için büyük bir dini ve tarihi öneme sahiptir. Kabe, İslam'ın kıblesi olması ve peygamberlerin inşa ettiği kutsal bir mekân olması nedeniyle her yıl milyonlarca Müslüman tarafından ziyaret edilmektedir.