由于《水浒传》的原因，梁山108好汉已经深入人心，甚至使很多人认为梁山宋江起义乃是一次规模浩大的起义活动，实际上并非如此。历史上，北宋末年的确爆发过宋江起义，但由于规模较小因而史料记载较少，只提到宋江最初以36人聚众起义。
北宋末年，由于朝廷严重腐败，对外献币乞和，对内恣意搜刮，苦于严重的赋税盘剥，大量百姓纷纷破产，流离失所变成流民。朝廷为了剞劂财政困难，宣布将梁山泊八百里水域全部收为“公有”，百姓入湖捕鱼、采藕、割蒲都要收取重税，否则便以盗贼论处，导致当地百姓怨声载道。
宣和元年（1119年），宋江等36人占据梁山伯，招募当地百姓组成义军，利用当地地形，阻杀前来镇压的官兵，公开扯旗造反，并随即率军攻打河朔（今黄河下游一带），京东东路（今山东益都），随后转战于青、齐（今山东济南）至濮州（今山东鄄城北）之间，先后攻陷十余郡城池，每破一城，义军都要杀富济贫、惩治贪官，因而声威日盛。
同年十二月初二，宋江起义的消息传至朝廷，知亳州侯蒙上书建议“赦过招降”，宋徽宗赵佶同意，并颁旨招安，但被宋江拒绝。朝廷随后命歙州知州曾孝蕴率军讨伐，宋江避敌锋芒，率领义军从青州南下沂州（今山东临沂），与冠军周旋一年有余。
宣和三年（1121年）二月，宋江又攻取淮阳郡（今江苏睢宁西北），随后从沭阳（今属江苏）乘船进抵海州（今江苏连云港），知州张叔夜遣使探察义军动向，得知宋江以十余条船自趋海滨，于是招募数千敢死之士在近城设伏，并派轻兵前去诱敌。
同年五月，宋江率领义军登岸，随后遭遇伏击，船只也被焚毁，在退路断绝的情况下，宋江最终战败被俘，而其余部则被朝廷招安，成为官军的一部分，并随后参加了平定方腊起义的作战（有争议）。
从宣和元年（1119年）于梁山起义，至宣和三年（1121年）五月彻底被平定，宋江起义满打满算也不过三年多时间，且军队数量并不多。
宋江义军的姓名不见于史料，三十六人姓名为民间版本由于《水浒传》的影响，梁山108好汉已经深入人心，实际上并非如此。《宋史·侯蒙传》有载：宋江寇京东，蒙上书曰：“江以三十六人横行齐、魏，官军数万无敢抗者，其才必过人。今青溪盗起，不若赦江，使讨方腊以自赎。”
由以上记载可知，宋江早期的起义队伍只有36人，但史料并未记载这些人的名字。不过，由于宋朝时说书技艺兴盛，民间又广泛流传着宋江等36人的故事，因而很快便被说书人用来作为创作的素材，南宋罗烨的《醉翁谈录》便记有小说篇目《青面兽》、《花和尚》和《武行者》，这是关于《水浒传》话本的最早记载。
关于这三十六人的名字，在《大宋宣和遗事》和公开的《宋江三十六人赞并序》中均有记载，不过两者略有不同，例如《大宋宣和遗事》中将卢俊义写成李进义，吴学究写成吴加亮，李俊写成李海，阮小二写成阮进等。
南宋末的龚开在《宋江三十六人赞并序》中记载有这三十六人的名单：呼保义宋江，智多星吴用，玉麒麟卢俊义，大刀关胜，活阎罗阮小七，赤发鬼刘唐，没羽箭张清，浪子燕青，病尉迟孙立，浪里白条张顺，船火儿张横，立地太岁阮小二，花和尚鲁智深，行者武松，双鞭呼延灼，混江龙李俊，九纹龙史进，小李广花荣，霹雳火秦明，黑旋风李逵，小旋风柴进，插翅虎雷横，神行太保戴宗，急先锋索超，短命二郎阮小五，青面兽杨志，病关索杨雄，双枪将董平，两头蛇解珍，美髯公朱仝，没遮拦穆弘，拚命三郎石秀，双尾蝎解宝，晁天王晁盖，金枪手徐宁，扑天雕李应。不过，龚开在《宋江三十六人赞并序》中虽然记载了这三十六人的名字和诨号，但并未叙说故事内容。目前我们所能看到的，最早记叙水浒故事的作品，是《大宋宣和遗事》，它或出于元人，或为宋人旧本而元时又有增益。它所记载的水浒故事梗概，从杨志卖刀杀人起，经智取生辰纲、宋江杀惜、九天玄女授天书，直到受招安平方腊止，顺序和现在的《水浒传》基本一致。
后来，由于元代杂剧盛行，已经有大量的水浒戏出现，元杂剧和《大宋宣和遗事》所记水浒的人物姓名大致相同，且已经有“一百八个头领”之语，这应该就是梁山一百零八好汉的最早出处。
