唐王李世民画像
少林寺原本是翻译佛经的清修之地。自从传说中达摩一苇渡江来到少林寺后，这里的僧众除了每日禅修，开始研习武术。住持寺庙的高僧还邀请天下武功高手来到少林寺传授僧众武艺。从那时起，少林寺传统优势不仅仅是传习佛经，还加上了自成一体的少林武学，并逐渐形成了一支保护寺院不受外界侵扰的僧兵队伍。
隋朝时期，少林寺僧兵从来没有引起过当权者的重视。在朝廷眼中，只是几个懂得舞枪弄棒的僧人，而且仅仅局限在寺院范围内，并不会对社会局势造成什么大影响。出于对少林寺悠久历史的尊重，隋文帝还将洛阳与少林寺之间的柏谷坞赐给少林寺。这个地方在洛阳城郊外15里，距少林寺约50里，地势险要，是连通各处官道的必经之地。
