奥马尔于1964年出生在阿富汗中部省份乌鲁兹甘，1979至1989年，他参加了反对苏联入侵阿富汗的战争，后被提升为伊斯兰革命运动副总司令。奥马尔在战斗中4次受伤。其中一次一只眼睛失明。苏联撤军后，他回到家乡做了一名宗教学校校长。

1994年8月，奥马尔从阿富汗难民营中的伊斯兰教学校征招士兵组建阿富汗武装派别塔利班，塔利班在阿拉伯语中意为“宗教学生”。在他的领导下，塔利班逐渐发展成为阿富汗各派中最强大的一支势力，兵力达到5万多人，到1996年塔利班已控制了阿富汗90%以上的领土。

奥马尔从此成为阿富汗实际上的最高领袖。奥马尔上台后颁布了一系列极端的法令，包括要求女子蒙面，禁止男子剃须等，体现出了其极端伊斯兰主义的思想。

1994年，本拉登为逃避美军的自杀逃到阿富汗。本拉登也参与过抗击苏军的战争，同样抱有极端伊斯兰主义的思想，年龄也与奥马尔相仿，二人一拍即合。富可敌国的拉登向塔利班提供金钱和武器，而塔利班则为拉登和基地组织提供庇护以躲避美国的追杀。

本·拉登与奥马尔的关系也够复杂的，两人互为女婿。1998年奥马尔娶了拉登的大女儿为妻。而拉登后来娶了第四任妻子，此人是奥马尔的女儿。

2001年9·11事件后，因为在当政阿富汗期间庇护拉登和“基地”成员，奥马尔成为和拉登并列的美国头号通缉犯，其悬赏金高达1000万美元。美国发动阿富汗战争推翻塔利班政权后，奥马尔与拉登一同逃亡。

奥马尔据信是塔利班在此后十余年间与美军及北约军作战的幕后总指挥，但他从此从公共视野中“蒸发”。

2011年，拉登在藏匿10年后最终被击毙，但奥马尔至今不知所踪。