***家境貧窮、從小打架不要命
扎卡維原名叫艾哈邁德·法德勒·納扎勒·赫拉利。現在的名字——阿布·穆薩卜·扎卡維是他2000年在阿富汗給自己取的化名，穆薩卜是他父親的名字，扎卡維則代表他的故鄉扎爾卡。
1966年10月20日，扎卡維出生在約旦安曼以北的扎爾卡。扎爾卡城市規模并不大，但人口分布較為密集。扎爾卡在阿拉伯語中是“藍色”的意思，這源于古代這里曾經是一片湖泊沼澤。扎卡維的家在扎爾卡的卡薩拉特區，這是位于城市北郊的一片“赤貧區”，大多都是低矮破舊的小平房。當地人說，只有強盜才敢走上這里的街頭。扎卡維家是當地貧窮戶，他本人有7個姐妹和兩個兄弟，他父親是民間游醫，母親患有白血病。
據扎卡維小時候的朋友說，童年時的扎卡維與普通男孩沒什么區別，整天和同伴在馬路上追搶足球，學習成績曾經還可以，還有消息說他的平均成績達到B等。
但是，扎卡維從小就很少上清真寺，卻喜歡打架。扎卡維的堂兄穆罕默德·艾爾·扎瓦拉回憶道：“他個子不算高，但卻是個打架不要命的家伙。”
***中途輟學、結交伊斯蘭極端分子
據扎卡維的家人說，扎卡維17歲那年就輟學了，此后他開始酗酒、紋身，這都是伊斯蘭教義所不允許的。
扎卡維的妹夫哈米回憶說，22歲那年，扎卡維隨一大批阿拉伯青年來到了阿富汗東北部尋找“工作機會”。在那里，他本來是想從武，但是前蘇聯軍隊剛好在那年撤出了阿富汗，迫于無奈，只好操起了筆桿子，為一份名為《銅墻鐵壁》的“圣戰”小刊物做記者。
1992年，扎卡維重返約旦扎卡爾市，加入了一個叫做“向教長效忠”的伊斯蘭軍事組織。該組織很快就引起約旦當局的注意。1992年，扎卡維鋃鐺入獄。
一名叫做阿布·多馬的前獄友透露，獄中的扎卡維非常好酒，性格也十分暴躁，他喜歡對同一間牢房里的囚犯發號施令；喜歡回憶在阿富汗時期的生活；喜歡用簡易制作的杠鈴鍛煉身體；不喜歡說話，表情嚴肅。不過，有意思的是，扎卡維最初痛恨的是曾入侵過阿富汗的俄羅斯人，剛開始還曾對美國人有好感，說美國人是基督徒、是信徒等等。
但是，坐牢期間，扎卡維吸納了更加激進的伊斯蘭主張。大約1998年，就在美國駐中非兩個大使館遭到“基地”組織襲擊后，扎卡維也開始談論殺死美國人。
另外，據一名曾在1998年見到過扎卡維的監獄醫生阿布·薩布哈回憶說，當年扎卡維給他的感覺是，他控制著囚室中的一切。薩布哈說：“他只需動一下眼神，就能命令獄中其他囚犯為他做這做那。”
***會晤拉登、成為武裝頭目
1999年3月，由于約旦政府大赦政治犯，扎卡維獲釋。據扎卡維的妹夫哈米回憶說，出獄后的扎卡維也曾企圖過一種普通人的生活。當時扎卡維的妻子已經給他生下了至少兩個孩子，扎卡維曾想過做批發蔬菜的生意。但是，思想激進的扎卡維發現，自己充滿了矛盾。
由于約旦容納不了自己的激進立場，扎卡維只好于2000年初來到了和阿富汗接壤的巴基斯坦白沙瓦。在那里只住了不到半年的時間，由于他的巴基斯坦簽證到期，同時約旦又宣布他涉嫌策劃了一起針對基督徒朝圣地的恐怖陰謀，扎卡維離開白沙瓦，只身來到阿富汗，與“基地”組織的領導層首次接觸。
當時，扎卡維在阿富汗的坎大哈和喀布爾與本·拉登等“基地”組織頭頭會晤。他請求他們給他援助和資金，幫他在靠近伊朗邊界的赫拉特建立訓練營。有了“基地”組織的支持和撐腰，這個訓練營很快開張，吸引來大批約旦好斗分子。
2001年的“9·11”襲擊事件之后，扎卡維在阿富汗與塔利班和“基地”組織成員一起抵抗以美國為首的入侵。同年年底，他在一次戰斗中胸部受傷，斷了三根肋骨。
