武牢关又称：虎牢关，是洛阳东边门户和重要的关隘，因周穆王在此牢虎而得名。此关南连嵩岳，北濒黄河，山岭交错，自成天险。大有“一夫当关，万夫莫开”之势，为历代兵家必争之地。
到了虎牢关后，李世民决定先下手为强，打击一下窦建德大军的士气。
二十六日，李世民率骁骑五百出虎牢关，在其东二十多里处侦察窦建德军营，沿途设伏，令秦琼、程咬金、李勣分别统领。然后与尉迟恭（尉迟敬德）仅带四骑继续前进。李世民豪气万丈地对尉迟敬德说：“我拿着弓箭，你手持马槊相随，即使有百万大军又奈我如何！哈哈！”
离窦建德营地三里处，李世民等与窦建德的游兵相遇，游兵以为他们是侦察军情的斥候。李世民大喊：“我是秦王李世民。”拉弓射箭，射死对方一员将领。窦建德军中大为惊慌，出动五六千骑兵追赶，跟随李世民的人都吓得变了脸色。李世民镇定自若地说：“你们只管在前面走，我自己和敬德殿后。”
于是勒住缰绳慢慢走，追兵快赶上了就拉弓放箭，每射一箭都杀死一人。追兵惧怕便停止了追击，停一会儿又重新追赶，几次三番，每次追赶上必定有人被杀死，李世民先后射杀了十几个人，尉迟敬德杀死几十个人，这两个孤胆英雄太可怕，窦建德的追兵不敢再进逼。
李世民有意徘徊或稍稍后退引诱追兵到埋伏圈内，秦琼、程咬金、李勣等率领玄甲精骑伏兵忽然杀出，李世民、尉迟敬德等人也回头奋勇杀敌，大败追兵，斩杀敌军两千多人，俘获窦建德的将领殷秋、石瓒返回虎牢关。
窦建德的前锋部队刚来，就被李世民给了个下马威，士气大挫。
当时王世充的弟弟王世辨任徐州行台，派遣他的部将郭士衡带领几千人跟随窦建德，窦建德集中人马十多万，号称三十万，窦建德把军dui驻扎在成皋，在板渚修建营房，向唐.军以示决战。窦建德同时又派遣密使约定王世充里外夹攻。
窦建德率领十多万大军，一路攻城拔寨，经过两个月的战斗，逼近虎牢关，不过被李世民凭借天险阻挡下来，无法再继续前进。
秦王李世民实施积极的防御策略，并不是单一的死守险关。李世民经常带领尉迟敬德、秦琼、程咬金等大将和少数人马，夜间偷袭窦建德大营，搞的窦建德大军人心惶惶。
双方相持多日后，李世民又派遣将军王君廓带领轻装骑兵一千多人，悄悄绕到窦建德的背后袭击他的运粮队伍，捉住大将张青特，俘虏士卒很多人。
窦建德大军多次失利，人心惊恐不安。上到将帅，下到士卒，在开始打败唐.军孟海公时，都有收获，现在却连连失利，大家都想撤回燕赵大地老家洺州。
凌敬提议说：“应当全军渡过黄河北上，攻占怀州河阳，安排主将镇守。再率领大队人马击鼓举旗，跨越太行山，开进上党县，虚张声势隐藏目的，不必麻烦作战。加速赶到壶口，逐渐惊扰蒲津，夺取河东土地，这是上策。实行这个方针定有三条好处：一是到无人防守的地方，军dui万无一失；二是扩大地盘招募兵卒；三是唐.军对王世充的包围自己就会解除。”窦建德准备采纳这个建议，但是王世充的使者长孙安世私下送给金银珠宝利诱各个将领，来扰乱他的决策。
各个将领全都劝谏说：“凌敬不过是个书生，怎能跟他谈打仗呢？”
窦建德听从了他们的意见，回头向凌敬道歉说：“现在群臣振奋，这是老天助我。凭这决战，必定会大获全胜。我已听从了大家的意见，不能照您的话办了。”凌敬坚持争辩，窦建德很生气，嫌他聒噪，让人把凌敬强制挟持着拖走了。
窦建德的妻子红娘子曹秀英对窦建德劝谏道：“祭酒凌敬的意见可以采纳，您为什么不采纳呢？我们应该沿着滏口那条路，乘着唐朝兵力空虚，集中兵力加速前进，以便夺取山北的土地，再凭借突厥的力量向西包抄关中，唐朝廷必然招回军dui保卫自己，那么对王世充的包围就解除了。这围魏救赵的计策很好啊，你为何不采纳呢？如今部队滞留在武牢城外，时间拖得长了，白白地自己劳苦自己，事情只怕办不成。”
窦建德看到爱妻和自己唱反调，有些不悦地说：“打仗不是女人过问的事。再说郑国命在旦夕，等待我们快去，既然答应援救他们，怎能碰上困难就退走，向天下表明我们说话不算话呢？”
英武美丽的红娘子叹了口气，默默无语地转身走了出去。
窦建德主意已定，于是率领全部人马压向虎牢关而来，十几万大军北靠黄河，西临汜水连绵二十里，气势浩大。
看到十几万大军压境，自己只有三千五百人，许多唐.军将士都十分惊慌，李世民带几名大将登上高丘望敌阵，对诸将胸有成竹地说：“敌人从齐鲁起兵，还没有碰见过强大的对手，如今身涉险境却很喧嚣，是没有纪律，逼近城池排列战阵，有轻视我们的意思。我们如果按兵不动，他们的勇气自然就会衰竭，列阵时间一长士卒饥饿，势必就会自动撤退，我们再追上去攻击，必然会取胜。我和各位相约，一过正午，肯定能打败他们！”
窦建德轻视唐.军，派三百精锐骑兵在离虎牢关一里地方停止。派人通报李世民说：“请秦王挑选几百名精兵和我们打着玩玩。”
李世民派王君廓带领二百名长枪手应战