武僧團的前身是少林寺僧兵。關于少林寺僧兵起源，一般都認為起源于唐初十三棍僧救唐王有功，唐王頒詔允許少林寺常備僧兵。到了宋代，傳說宋太祖曾來少林寺，還調遣各路諸將輪駐少林，一來授藝于僧兵，二來取少林武術之長。元朝少林寺方丈福裕被皇帝任為國師，他倡導武術，支持僧兵練武。明代是少林寺僧兵規模很大的時期，少林寺僧兵應詔抗倭立功的就有500多名，寺院常備僧兵達到千人以上。清代少林寺有反清復明之嫌，朝廷多次降旨，禁止習武，少林僧兵作為一種制度，就逐漸衰落了。喜歡習武的武僧，只能自己偷偷練習。民國期間，少林寺武術尚有復蘇之勢，蔣介石游少林寺時，也看了武僧的武術表演，頗為驚嘆。