隋朝末年，隋文帝次子杨广欲谋篡位，把朝内重臣视为眼中钉。李渊为了避难，准备携全家离京返乡。途中，李世民遭到杨广“收买的，号称“洛阳第一杀手”廖无极的袭击，危难中正巧碰到押送囚徒的秦琼。秦琼击退廖无极，救出李世民后，得知杀手是杨广派出的，又怕多事，不辞而别。为了报答秦琼的救命之恩，李世民为秦琼立庙以示纪念。

秦琼把犯人送到潞州后，因路费被窃，又患重病，被迫卖出自己的黄骠马时，遇到了绿林好汉单信雄。他一直敬重秦琼的为人和武艺，便厚赠银两。秦琼在回家的途中因错认为一店主是响马，失手打死店主获罪，被当地官府发配燕山，之后他又因为罗成父亲的关系，去山东节度使唐璧处当旗牌官。

秦琼到达山东不久，杨厂谋害了隋文帝篡位，当他强迫大臣伍建章伪造遗诏布告天下大时，建章不从被杀，引起建章的儿子南阳太守伍之召起兵反隋。杨广命韩德虎攻破南阳后大赦大下登基。被判重刑的程咬金遇救出狱后，单雄信见他是位英雄，便拉他一起做打劫的无本生意，却得靠山王杨林的几十万两饷银，便当众烧毁捕批牌票。不料单雄信和程咬金又在黄土岗被捕，于是徐茂公等好汉便人返山东，救出二人，聚义瓦岗寨，拥戴程咬金为“混世魔王”，粉碎了隋军的多次征讨。