少林寺兴建于北魏时期。北魏的统治阶级崇尚佛教，兴建了大量的寺庙，僧人受到了极大的尊重。公元495年，从印度来了一位高僧跋陀，当时北魏的帝王孝文帝为了表示对跋陀和佛法的尊重，‘专门为其修筑了一座寺院，让其在里面讲经说法，翻译佛经。这座寺院就是少林寺，著名的佛教典籍《华严经》，便是跋陀在少林寺译出的。少林寺为了跋陀而建，但少林武学却不是从跋陀兴起。据说少林寺第二任方丈稠禅师进人少林寺之前，就已经是一位身怀绝技的武僧。进人少林寺之后，他延续了习武的习惯，并把这种强身健体的功法教给了自己的同门。不论这段记录的真与假，有一个问题可以肯定，即稠禅师是把自己已学会的功夫教授给了同门师兄，所以此时的少林武功并没有自称一派，修习的是民间武术。所以要问少林出自哪，实在没有确切的出处。正是因为少林武功并没有什么特别之处，所以在很长一段时间内都默默无闻，直到“十三棍僧救唐王”的出现，才让少林武学名声大噪。

在少林寺观音殿有以一幅名满天下的壁画，画的是少林十三棍僧救唐王的故事。隋末年间，天下大乱，隋朝大将王世充占据洛阳，割据一方。公元618年，李渊称帝，改国号为唐。公元620年，秦王李世民出兵洛阳，完成李唐统一天下至关重要的一战，岂料却在一次侦察地形的时候被俘。齐王李元吉率兵营救，却铎羽而归。少林寺得知这个消息后，决定前去营救秦王，于是在寺中挑选了十三名武功高强、头脑冷静、善于应变的武僧潜人洛阳大牢。根据少林寺记录在案的资料，这十三棍僧是善护、志操、昙宗、普惠、明A、灵宪、普胜、智守、道广、智兴、僧满、僧丰。

传说十三棍僧轻功了得，一跃高达十数丈，身轻如燕，脚下带风。他们趁夜来到洛阳城下，轻轻一跃便上了城楼。在对洛阳城地形了如指掌的志操的带领下，众僧很快摸人洛阳大牢。大牢门口虽然守兵众多，但众僧手脚敏捷，很快抓了几个守卫，不仅打听到了关押李世民的具体位置，还拿到了牢门钥匙。片刻之后，众僧已在牢门之外。昙宗带着几个僧人进入救人，剩下的在门外看护。不消一刻，昙宗等人已无声无息打倒了看守牢房的士兵，取出钥匙，救出李世民。

此时的李世民被困多日，疲惫不堪，已无力行走，昙宗将其背负在身逃出大牢。众僧护着昙宗和李世民往城门方向跑去，沿途除了遇到追兵，还遇到正在轮班守城的士兵。尽管在人数上昙宗等人没有丝毫优势，但在拳脚功夫上，十三棍僧足以以一敌十。所以这场混战并没有持续很久，李世民便在众僧的保护下成功逃脱。

李世民平定王世充后，为了表达对少林众僧侠义相助的感谢，特地颁发嘉许文书—《告柏谷坞少林寺上座书》给少林寺.同时赐给少林寺40顷田地、水碾一具、500僧兵，以及私人营房。少林寺从此名声大震。这个故事对于大多数人来可能不陌生，因为由华人影星李连杰主演的电影《少林寺》讲的正是这段往事。然而，十三棍僧救唐王的故事并不完全忠于历史，即便是从少林寺传出的版本，也有神化和夸大的嫌疑。

真正的历史是非常乏味的。唐高祖武德四年(621)，李世民奉命消灭盘踞洛阳的王世充割据势力。当年二月，本来已经赢弱的王世充突然得到了河北势力窦建德的支持，与李唐军队形成对峙。这一切看上去跟少林寺一点关系都没有，难道少林真的是出于道义帮助李世民?其实对于少林寺和所有黎民百姓来说，谁掌天下都不重要，只要不影响日常生活即可。真正让少林寺出手相助的原因说起来不免有些世俗—土地。当时王世充和李唐发起的洛阳之战，主战场在洛阳附近。在距离主战场不远的地方有一处险峻之地—柏谷坞，本是隋文帝赐给少林寺的庙产，距离少林寺只有五十里。大战开始后，王世充让自己的侄子王仁则将那块地据为己有，打造成军事要塞，与洛阳遥相呼应。彼时的少林寺，因战乱而缺衣少食，那块地能勉强支撑众僧三餐，被王仁则强行霸占后，少林寺朝不保夕，只能向李唐示好。于是僧人们设计活捉了王仁则，将其送到了李唐大营。几天后，李世民派人到少林寺进行上述封赏。

没有玄奇的武功，没有刀光剑影，没有血流成河，一切都只是一场智谋上的较量，平静而诡诈。至于少林寺出动了多少僧人参与这次行动，史料没有记载，就更别提众僧武功如何了。但无论如何，少林寺的名望就此奠定，在庙堂和朝堂之间的地位，已然不可撼摇。