李世民早就想杀了他们，正好找不到理由，便借这事杀了他们了事。
李世民缚鸡一样容易地绑了王威和高君雅，把他们丢进了监狱。
两日刚过，一万多突厥兵，进攻晋阳。李渊让裴寂等人，故意打开四面城门，突厥兵认为这是计，如果进诚的话，肯定会中计，错愕良久，竟然溜了，没敢进城。
李渊将计就计，把王威和高君雅绑到菜市场，宣称突厥兵是他俩引入城的，围观百姓以为是真的，个个点头说这俩卖国贼该斩。
就这样，李渊把隋炀帝安排在他身边监视他的两人光明正大地斩首了。这两人死的有点滑稽，可是有什么办法呢！落到一群狼一样的人手里了。
突厥再次来犯，李渊用计分毫不损地击退了突厥兵的进攻，城内未受到任何损失，军民甚是欢欣，十分感谢李渊。
同时，李渊的家眷也都从河东赶了来，一家团聚了，李建成和李元吉在列，三子李玄霸得疾而亡，女婿柴绍都跟着来了。但他女儿（后来封的平阳公主）没有跟着来。
平杨公主虽然是女人，但她很有脑子，很有胆识。她认为她不方便跟着他们，会成为累赘，便自己会想办法保护自己，看起来是一个强悍的女人，能照顾自己的生活，还不黏人。柴绍能娶到这样的好女人，真是他的好福气呀！
李渊看家眷到来，招兵也不少了，便正式出兵起事。
出兵前，李渊召集刘文静，裴寂，刘弘基，长孙顺德等开会，刘文静提议道：“突厥的力量十分强大，我建议暂时与突厥结盟，一方面避免突厥进攻的威胁，另一方面借突厥士兵，扩充实力。”
李渊觉得有理，采纳了他的建议，暂与突厥首领始毕可汉通好，这样的卑屈，只是一时的。
李世民为了万无一失，让李渊向突厥称臣，许诺他们攻取长安后，土地归他们，金银财宝给突厥。
突厥首领始毕可汉大喜，终究李渊是听命于他的，乐颠颠地跟李渊合作，直取长安。
为博得突厥的信任，李家军还把旗子的颜色都换了，汉族的军旗一般是红色的，北方的少数民族是白色的，李渊的军旗用的绛白色，绛色和白色杂半。
公元617年，李渊连接突厥，传檄天下，自称义并，正式起兵。
李建成和李世民率兵攻打河西，只用九天时间，就把河西守将高德儒问斩，轻易占领河西。李世民与士兵同甘共苦，一路对百姓秋毫无犯，所需粮食蔬菜，都掏钱买，分毫不占百姓便宜，感动的百姓泪流满面，天下竟然有这样好人，不跟他们粗鲁索取。
李渊看俩儿子这么轻易就拿下一座城池，兴奋不已，正式准备入关，并开仓放粮，老弱领粮，壮丁入伍……场面十分令人感动。
贴身跟着李渊干活的裴寂被认命为长史，刘文静为司马，唐俭，温大雅为记室，后来把唐室搅翻天的女能人武则天的老爹武士彟为铠曹（掌管铠甲的），长孙顺德，刘弘基和窦琮等左右统军。同时，授李建成为左领军大都督，李世民有右领军大都督，李家女婿柴绍为府长史咨议。
入关的领导班子大概就是这阵容了。