中国是一个历史悠久的文明古国，早在夏商周时期就拥有了军队，并产生了那个时代的民兵组织。此后的历朝历代，为了加强封建统治和国防力量，都十分重视民兵制度，和平时期这些民兵屯垦戍边，战争期间能够很快补充进军队，能够很好地维护国家统治，抵御外敌。
民国时期，不论是国民党政府还是我们的人民军队，都十分重视民兵武装。国民党政府笼络各地的土豪劣绅，吸引一些当地的地痞无赖加入民团武装，维护对各地的统治。其中李宗仁，白崇禧领导的桂系民团武装最为强悍，白崇禧还专门组建了专门培养民团干部的军校，使得民团武装也能有一定的战斗力，随时可以补充到正规军。
新中国建立后的民兵武装建设不论是红军时期，抗日战争时期，解放战争时期，中国共产党一直都十分重视民兵的建设。早在红军时期，毛主席就一再地强调：革命战争是群众的战争，只有动员群众才能进行战争，只有依靠群众才能打赢战争。
新中国建立后，我们依然十分重视民兵建设。这主要是因为当时特殊的国际国内形势造成的，当时以美国为首的西方资本主义国家打压封锁新生的人民政权，盘踞在台湾的蒋介石残余势力不甘心失败，一直在整军备战，厉兵秣马，还不断的在我国东南沿海地区进行挑衅，向内陆地区渗透特务组织，严重威胁新生的人民政权。
1958年，中央改变了以前工厂，商店，企业，学校，医院等单位和城市不建立民兵组织的决定，规定凡是符合一定年龄的公民，都必须逐步做到人人接受军事训练，人人学会使用武器。
1959年开始之后，中苏关系日益紧张，直到在珍宝岛大打出手，关系彻底破裂，苏联也开始在中国边境陈兵百万，给中国的国防安全造成了很大的压力，中国的民兵建设也进一步加强，进入了全民皆兵的时代。
从1958年9月开始，全国就掀起了建立民兵师，民兵团的运动，从首都北京到一些边疆省份，各地的工厂，学校，医院，企业都开始大规模的建立民兵组织，各地的正规军还派出教官对这些民兵组织进行训练，有的家庭一家子全都是民兵，当时是真正意义上的全民皆兵，个个习武，气壮山河地保卫着伟大祖国，随时准备打击胆敢侵犯的敌人。
为了鼓励各地民兵组织发展壮大，各地还提出了“七亿人民七亿兵，万里江山万里营”，“人人会放枪，个个会打仗”，“轮流生产，轮流训练，生产训练双丰收”，“一切行动军事化”等气壮山河的口号。
全面皆兵在一系列政策的鼓励和号召下，全国各地的民兵组织迅速建立起来。1958年，济南商河县拉起了11个民兵师，合计105个营，1103个连，14.1万名民兵，1960年还增加了一个坦克营。后来当地政府觉得民兵组织太多了，于是进行了缩编，结果缩编之后还有13万人。
民兵组织不光有成年男性，下到十来岁的小孩，上到七八十岁的老人都有，很多妇女也都参加了民兵组织，有的医院甚至可以拉出来一个高射炮连。就连学校都仿照部队的编制，一个班编成一个排，三个班编成一个连，一个学校就是一个团，校长任团长，教数学的男老师担任连长，教语文的女老师担任指导员，学生里的优秀分子担任班长，副班长。
这些紧急组建起来的民兵组织可不是花架子，每个班一支枪，空枪没子弹，晚上站岗吓唬人用。枪都是杂牌，有三八大盖，有汉阳造，最好的是捷克762，还有的干脆就是气枪、运动枪，武器虽然简陋，有的甚至是清朝时期的枪械，但是这些民兵依然十分高兴。
民兵们还会定期组织野营拉练，少则三四十公里，多则上百公里，很多只有十几岁的小孩疯了一样在冰天雪地的黑夜里奔跑，也没有没有一个人掉队，没有一个人哭，没有一个人抱怨。
民兵的武器也是五花八门，不仅有步枪，还有半自动步枪，轻机枪，重机枪，迫击炮，无后座炮，40火箭筒等武器，有些学历比较高的单位和科研院所甚至自己造起了高射机枪，高射炮，让其他的单位都羡慕不已。
战果这些民兵也确实为维护社会稳定，挫败国民党特务的渗透起到了很大作用。1955年3月21日，国民党特务陈超凡率领小股武装特务潜入莆田进行破坏行动，仅仅潜入大陆三天就被晋江地区的民兵抓获。
1963年10月8日，十余名国民党特务从黄海偷渡而来，他们从江苏省盐城市射阳县登陆。这些特务登陆没多久，就被我们的民兵发现了，民兵发现海滩上停着一只小艇，小艇上有糖果、压缩饼干、子弹，还有小挎包、一件汗衫等，杂乱无章地摆在小艇上。
民兵询问附近的渔民，渔民说在捕鱼来的路上，遇到了十个人，八个人穿军装，两个人穿便衣，他们自称是从海上下来的人民解放军，于是就给他们指路。这几名民兵立刻去给边防部队报信，仅仅24小时，就将潜入进来的十名国民党特务全部抓获。
不仅仅是男民兵屡立战功，很多女民兵也经常立功，都知道当年有一部以海岛女民兵为主题的电影《海霞》，在当时属于全民必看的电影。
《海霞》的故事原型，是洞头岛上的女民兵。不要以为女民兵就是女人偶尔拿枪耍酷，这支女民兵的训练强度，丝毫不亚于男性正规军，甚至连怀孕8个月的女民兵都参加射击训练。那些年，洞头岛上的女民兵捕获土匪45名，击毙土匪10名，抓捕特务12名，缴获枪支28支，战绩丝毫不亚于一些战斗力强悍的正规军，直到现在，这支立下过赫赫战绩的女民兵依然存在。
