虎牢关，又称汜水关，它作为洛阳东边门户和重要的关隘，因西周穆王在此牢虎而得名。南连嵩岳，北濒黄河，山岭交错，自成天险。大有“一夫当关，万夫莫开“之势，为历代兵家必争之地。
瓦岗水陆并进，在虎牢关前，一路上是势如破竹。但到了虎牢关之后，就被天险所阻。
先是劝降，被守军拒绝之后，就开始打造攻城器械。
不过不巧的是，才刚刚打造完成，还没来得及攻城，韦孝矩率军赶到虎牢了。
在看到城外的攻城器械之后，立即募集了五百勇士，趁夜突袭，烧毁了大部分攻城器械。
翟让大怒，又命令工匠加紧打造攻城器械，昼夜不停。
三日后，在器械完成之后立即发动对关城的强攻。
此时，濮阳的形势非常微妙。
就在虎牢关前的大地上，笔直的冲向了瓦岗军大阵。
翟让虽然逃脱了，但瓦岗军已经完全被燕军铁骑冲乱了，败兵四处逃窜，许多士卒充满往河边渡口停船处避让，因此也造成了拥挤和踩踏。
这一仗，在虎牢战场上的八万多瓦岗军被冲的七零八落，四散奔逃。
“悔不听杨先生之言”这句话也成了翟让的遗言。
杨侃与杨邃相视一样，杨邃道：“好，既然如此，就如慕容将军所言，我等就各率部众就此分别不过青州之地，就留与我等？如何？”
翟思训当即道：“当初能取青州，也都是杨长史所谋划，如今将青州与杨氏我自无他言”
翟让原本为了鼓舞士气，在虎牢关下数里之地督战，而尉迟恭看见他的旗号直冲而来，瓦岗军骁将单雄信见尉迟恭骁勇众人皆不能当，自负勇力过人，就直接纵马迎了上去。
杨氏统军杨侃旗帜鲜明的摆明立场。
这时候，杨邃又劝谏翟让，说瓦岗军长于野战水战，不善于攻城，不如绕道孟津，从浮桥进入洛阳盆地。
而瓦岗军的派系复杂，有跟随翟让起事的旧人，有各地投奔的义军头目，有弘农杨氏和齐郡叛军的余党。
巅峰时期控制三州之地，拥兵二十万的英雄豪杰，就此遗恨大河，
俘虏多达三万余。
九千轻骑在后，挥军掩杀。
但是在筑桥之后，形势就发生变化了，遇到上述情况若不在对岸设防，长桥一端就会被敌人控制，如果烧毁桥梁，重建时又要浪费巨大的人力物力财力。
徐懋功听说了虎牢战况之后，迅速撤兵回到东郡。
而齐郡众人则说他们与西燕梁郡公征南大将军李元徽有旧，且李氏占据关中，俨然又一统天之势，所以他们也准备投奔李氏
“李元徽与我有血仇，投奔西燕绝无可能”
青州和一半兖州，成了杨氏的地盘。
翟让身死，大军折损过半，兖州、青州、以及大半个徐州这么大的地盘等于短暂的陷入了真空期。
翟思训和徐懋功等滑县老乡组成的瓦岗军老底子，加上齐郡慕容三藏、贾雄、秦伯圭、秦仲玉等人，合计约三万兵马，以及他们手底下的控制的半个兖州和大半个徐州，则成了翟思训等人要献给西燕李氏的敲门砖。
翟让这边正准备给徐懋功加派援军，让他一口气打下南城，随后就可以直驱洛阳。
翟让听了这个建议之后，觉得很好。