隋朝末年，隋将王世充的侄子王仁则（于承惠饰）在督建河防工事时，杀死了起来反抗暴虐的神腿张，但令其儿子小虎子跳河逃离虎口。小虎子被少林僧人救起收入寺中后，为报父仇毅然削发为僧，法名“觉远”（李连杰饰）。王仁则的侍卫长遇见牧羊女白无瑕（丁岚饰）后垂涎其美色，强行将其抢回府并欲酒后施暴，恰巧被只身前来报仇

[北少林棍僧智明（李连杰饰）为报父母之仇，日日苦练功夫，他天性纯良聪明，深得师父器重。这天，智明收下的一班顽童“徒弟”向他报信，声称退隐多年的赫索王爷再度出山摄政，智明听闻杀父仇人消息怒发冲冠，随即下山为赫索祝寿伺机行刺。与此同时，和智明一样与赫索有血海深仇的莆田南少林俗家弟子司马燕（黄秋燕饰）亦北