杨广南巡，带走了大隋在中原的大部分精锐军队，使得中原统治处于一种比较空虚的状态，这使得依然在挣扎的农民起义得到了喘气并发展壮大，同时也让有野心的贵族阶级看到了反隋的希望以及有了反隋的勇气。

虽然隋朝的农民在大业七年的时候就开始了并且声势浩大，但是在杨广军队的强力镇压下依然没有成势的可能。直到杨广的第三次南巡，在隋军的强力镇压下只能挣扎保命的农民起义的春天似乎来了，他们在这时开始发展壮大。在后来，北方农民起义汇成了两支强大队伍：一支是河南的瓦岗军，一支是河北的窦建德军。这两支队伍加上江淮地区的杜伏威军成为隋末农民反隋的强大三主力。其中由贵族领导的瓦岗军是三支队伍中最为强大的，它甚至一度问鼎中原。

曾任东郡法曹的翟让，犯法当斩，狱吏黄君汉知道他武功高强，认为他“可救生民之命”，便不顾个人安危，私自释放了他。大业七年（611），逃命到瓦岗的翟让与同郡人徐世勣（即李勣）、单雄信起兵于瓦岗（河南安阳），这也是瓦岗军的名称来由。参加起义的有故县吏邴元真、善于占卜的贾雄和翟让的兄长翟弘等。翟让以贾雄为军师，邴元真为书记，徐世绩、单雄信为领兵将校，所部多齐、济间渔猎手。瓦岗军初期活动于东郡一带，瓦岗军初期活动于东郡一带，翟让后来听从徐世绩的建议，分兵西上，进入大运河所经的郑、宋边界，阻截往来的公私船舶，资给丰足，归附者日众，起义队伍很快发展到万余人。但是不知道是隋军镇压的厉害还是作为首领的翟让没有多大野心与能力。起义后的瓦岗军直到大约十二年（616）的时候还是像隋末大部分的农民义军一样没有什么特别的，都是为了活命聚在一起的“土匪”队伍。但是在大业十二年的十月，他的加入改变了瓦岗，改变了天下。他就是参加过大业九年杨玄感叛乱的大贵族李密。

杨玄感兵变失败后，在衙役手中逃脱的李密与王仲伯先投奔逃到平原(山东平原)一带的义军首领郝孝德处，但郝孝德却不以礼相待，于是李密又投另一义军首领知世郎王薄，王薄对其也不重用。是年，山东闹饥荒，李密二人沦落到削树皮用来充饥。

不久。王仲伯离开李密偷偷回至天水，李密则逃到淮阳(河南淮阳)，住在村中，改姓名刘智远。当起了私塾先生。几个月间，李密郁郁不得志，便作了一首五言诗，哀叹自己的凄凉处境：

“金凤荡初节，玉露凋晚林。

此夕穷途士，空轸郁陶心。

眺听良多感。慷慨独沾襟。

沾襟何所为？怅然怀古意。

秦俗犹未平，汉道将何冀！