這個哈里發國的組織架構與編制仍然籠罩著神祕霧紗，幾乎不為人知。有幾個成員名字在外界流傳，但眾家媒體嘗試勾勒出的組織架構圖往往是妄加揣測之下的產物。美國有線電視新聞網（CNN）在二○一四年十月初指出伊斯蘭國有一個「負責撰寫法條」的法律委員會。這正是若干例子中的一個，顯示出我們對伊斯蘭國體制有多麼缺乏認識，因為這個組織並沒有制定法條的必要：既然奉行永恆不變的伊斯蘭法，又怎需要創造自己的法律呢？這類錯誤多不勝數，以致真實狀況更顯得撲朔迷離……

巴格達迪統領的是一個極度去中心化的體制。在伊拉克、敘利亞兩地各有一位總理和一個政府。這種雙頭馬車架構似乎會讓人無所適從，但是拜此所賜，巴格達迪得以在這兩個衝突情勢與時局截然有別、以致無法以同樣方式治理的地區裡，樹立自己的領袖權威……

敘利亞地區的總理叫做阿布．阿里．安巴里（Abou Ali Al-Anbari）：他身材魁梧，留著一臉令人生畏的大鬍子，據說他野蠻粗俗，和學養俱佳的巴格達迪（後面章節會談及他的性格與崛起之路）南轅北轍。

出生於摩蘇爾，曾在伊拉克軍隊官拜將軍的安巴里，自命為哈里發的「牧羊犬」，完全按照「主人」指示來聚集、引導羊群。二○○三年，他棄軍潛逃，前往東北部山區加入總部位於該地、伊國歷史最悠久的薩拉菲派組織「伊斯蘭虔信者」（Ansar Al-Islam）。他於二○○五年被捕下獄，翌年獲得釋放，二○○六年十月間，伊拉克伊斯蘭國（I'Etat islamique d'Irak）甫成立之際，他加入該組織成為其中一員。

安巴里從彼時起成為敘利亞地區首腦，執掌該地的軍政大權。他統領的政府設有軍事部、財政部、司法部、情報部、公共行政部，以及另一些重要性較低的部會，諸如教育部和衛生部。

伊拉克地區則是由另一位總理阿布．穆西林姆．突克瑪尼（Abou Mouslim Al-Turkmani）管轄，有它自己的政府。