原来自1949年9 月，新疆和平解放以来，乌斯满、尧乐博斯等人不甘心失败，纠集了惯匪和散兵游勇，与原伊吾县长艾拜都拉相互勾结，妄图以伊吾为据点，发动反革命武装叛乱，颠覆新生的人民政权。伊吾县地处要冲，四面环山，交通不便，却是通往蒙古、苏联的枢纽，战略地位极其重要。在国民党统治时期，这里就匪患不断，如今更是成为了反动势力妄图复辟的温床。

1950 年3 月，中国人民解放军十六师四十六团一营二连奉命进驻伊吾县，着手建立新政权，恢复和发展当地农牧业生产，维护社会秩序。全连官兵仅108 人，他们满怀热忱，希望为伊吾县的建设贡献力量，却未曾料到，一场严峻的考验正悄然降临。

1950 年3 月29 日，一场突如其来的灾难降临到二连战士们头上。连长赵富贵带领一个班在远离县城70公里的淖毛湖开荒种田，匪徒们乔装成当地老乡，以欺骗手段诱捕并杀害了赵连长等14 人。16岁的小战士刘银娃面对敌人的诱降，严词拒绝，最终被活埋。同一天，下马崖的驻军在农田劳动时，也遭匪徒袭击，14 名战士和5 名警士惨遭杀害。

匪徒的暴行并未就此停止，3 月30 日，在艾拜都拉的指挥下，他们趁着夜色占领了北山西侧碉堡和城南各山头碉堡，形成对县城的包围圈。另一股叛匪则占领了北山制高点北高山及其碉堡，并向仅有3 名战士驻守的北山东碉堡发起进攻。在北山主峰火力的掩护下，敌人对二连营房驻地展开包抄，伊吾县城危在旦夕。

危难之际，副营长胡青山挺身而出，指挥二连官兵迅速进入战斗状态，组织反击。胡青山作战经验丰富，早在抗日战争时期，他就在山东菏泽地区荣获战斗模范荣誉称号，在延安整风运动中，还获得爱兵模范、模范党员称号。在他的带领下，战士们凭借顽强的意志和无畏的勇气，压住了匪徒的嚣张气焰。

4 月5 日拂晓，200 多名匪徒在艾拜都拉的督战下，发起第二次进攻。一股匪徒冲进城内，攻击二连营房西侧仅20 米远的警察局。警察局指导员孙庆林带领工委和警士用手榴弹顽强阻击。胡青山带领9 名战士冲过密集的火力网，赶到警察局驻地，与敌人展开对峙。经过数小时激战，碉堡出口被解放军封锁，敌人伤亡惨重。进攻南山碉堡、北山东西两碉堡的匪徒也被击退，第二次攻城以叛匪的惨败告终。

4 月15 日，匪徒发起第三次攻城，他们用迫击炮轰炸伊吾县城。进城后，与解放军展开激烈交战。但战士们毫不畏惧，半小时后便取得胜利。此后，胡青山率兵坚守碉堡，一次次挫败敌人的骚扰。

在战斗中，匪徒为了困死解放军，截断了伊吾河水，使县城断水，唯一的水磨也无法转动，战士们只能靠嚼麦子充饥。北山主峰是控制县城的制高点，坚守在那里的官兵断了水，送水任务既困难又危险。战士们曾牵着骆驼送水，但骆驼目标大、行动迟缓，导致送水失败，还有战士牺牲。

关键时刻，战士吴小牛训练枣骝马承担起送水任务。这匹枣骝马十分机灵，当叛匪开火袭击时，它会随吴小牛就地卧倒；当我军火力压制敌人时，它便以最快速度冲上主峰。后来，枣骝马开始单独执行任务，它灵活地穿越敌人的封锁线，将水和物资安全送到北山主峰阵地。在伊吾保卫战中，枣骝马完成了数十次送水、送粮、送弹药任务，为战斗胜利作出了不可磨灭的贡献。战后，枣骝马被授予三等功，部队和政府负责为其养老。1967 年，这匹军功马老死，人们在伊吾县烈士陵园为它矗立雕像，以示纪念。

1950 年5 月，西线剿匪取得决定性胜利，十六师决定迅速解救伊吾之围。五军四十四团骑兵三营八连、九连，六军四十七团三营、四十六团（除一个连镇守巴里坤、口门子外）以及临时组织的骑兵连和师部的两个炮连，总计2000 余人向伊吾进发。5 月7 日，援军抵达伊吾城外的黑山头。次日拂晓，援军与守军内外合击，一举消灭攻城的顽匪，伊吾县城终于解围，历经40 天的伊吾保卫战取得全面胜利。

伊吾保卫战，是新疆剿匪作战中规模最大、时间最长、影响最大的一场战斗，也是全国著名的以少胜多、以弱胜强的战役。参与战斗的二连被解放军西北军区第一野战军授予“钢铁英雄连”的光荣称号，彭德怀号召全军向二连学习。胡青山被六军授予“特级战斗英雄”称号，1950 年9 月，荣获“全国战斗英雄”荣誉称号。

伊吾县革命委员会于1979 年5 月在县城南山坡修建烈士陵园，纪念在保卫战中牺牲的烈士。陵园于2001 年被国务院批准确定为第四批全国重点烈士纪念建筑物保护单位，2002 年被民政部定为“全国重点烈士纪念建筑物保护单位”。