不久，巩县县令柴孝和、监察御史郑颋以城降于李密，李密以柴孝和为护军，郑颋为右长史。随即武贲郎将裴仁基也以虎牢降于密，李密裴仁基为上柱国、河东公。李密遂遣裴仁基、孟让率2万余人袭破回洛仓，烧东都天津桥，继而放纵兵士大肆抢掠。隋军乘机而出，大败裴仁基，裴仁基只得退保巩县。李密亲自率兵攻打偃师、金墉，失利后撤回洛口。当时，杨广留在东都洛阳的守军多达20余万，城防十分坚固。李密率3万义军复据回洛仓，大修营堑，以逼东都；隋光禄大夫段达等出兵7万拒战，双方在回洛仓北交战，段达等败走。

兵强马壮、声势浩大的李密随即发布檄文，列举皇帝杨广十大罪状，号召民众推翻暴君，天下为之震动。

当时，河南、山东发大水，饿殍遍野。徐世勣建议：“天下大乱，本是为饥，今若得黎阳一仓，大事济矣”。李密接受了这个建议，派徐世勣率5000人自原武济河，攻打黎阳仓(河南浚县)，正值其他义军郝孝德、李文相等人也在袭取黎阳仓，义军遂合军攻破黎阳仓，开仓放粮，救济灾民。结果不到10天，李密便获得胜兵20余万人。此后武安、永安、义阳、弋阳、齐郡相继降于李密，窦建德、朱粲等也遣使归附李密，“密为海内豪杰共推盟主”，一时间李密成为了农民起义反对隋朝的盟主。

正当李密兵锋甚锐，威逼东都的时候，杨广命监门将军庞玉、虎贲郎将霍世军率关内兵，江都通守王世充率江淮劲卒，增援洛阳城。杨广这一举动削弱了关中隋军，兵锋强盛的瓦岗进军关中成为可能。柴孝和的人劝李密率精锐入关，留翟让守洛口。李密的回答是：我欲入关久已，但部下大多为山东人，不愿西入关中，诸将又都出身群盗，如果贸然入关，一旦遭遇挫折，很可能全军解体，令其霸业毁于一旦。李密拒绝放弃洛阳进军关中的理由或许很有道理，但还有一层原因应该他没有说，就是如果让前首领翟让带军守洛口，他是不放心的。因为他在杨玄感起兵的时候就给予杨玄感中策为西入关中，下策才是进攻洛阳；所以他知道拿下关中意味着什么。然而李密在自己给别人上中下三策的多年后，自己像以前的主子一样选择了自己的下策。

此时，王世充率各路隋军10余万人在洛口向瓦岗军发起进攻，与李密夹洛水相守。二十五日，王世充夜渡洛水，在黑石扎营。翌日，两军在洛水北岸会战。隋军戈矛多，依险隘交战有利。瓦岗军长枪马骑占优势，适宜平原作战。当时交战地域，北限大山，南临洛水，地势狭窄，骑兵难驰，兵器也难以发挥威力。王世充在交战之初，凭借有利地形，扬其所长，纵兵猛击李密，瓦岗军迎战失利，护军柴孝和溺死于洛水，李密为此十分难过，只好退保月城。王世充乘胜进围月城。失利的李密采用“围魏救赵”之计，派部属带兵东走月城助阵，自己则亲自率领精锐的骑兵偷袭王世充的黑石大本营。隋军惊恐万分，连续6次举烽火告急。王世充闻讯慌忙放弃围攻月城，狼狈自救；李密率部随其后猛烈追杀回救黑石的王世充主力部队，大败隋军，斩首3000余级。