在618年，瓦岗军和洛阳的隋军作战得胜，李密想东山复兴，却遭到了部将们的反对，他只好到长安投奔李渊。李渊热烈欢迎他，当作高朋对待，常称李密为弟，还将表妹嫁给他。但厥后李密又嫌弃官小，对李渊说想回山东收伏部下，帮李渊拿下洛阳。
李渊本来做过刺史，在隋炀帝即位之初做了荥阳（今河南荥阳）、楼烦（今山西静乐县）两个郡的太守，厥后任殿内少监、卫尉少卿。公元613年（大业九年），隋炀帝挞伐高丽时，李渊在怀远镇督运粮草。这时，杨玄感操纵民愤举兵反隋，厥后失利。在这期间，李渊受命镇守弘化郡（今甘肃庆阳县），广交天下豪杰，遭到隋炀帝的猜忌。在615年调任山西、河东，达到龙门时，赶上了母端儿农夫叛逆，李渊领兵击败了叛逆兵，收编万余人，气力大增。第二年，他升为右骁卫将军，任太原道安抚大使，今后落脚太原，运营厥后的起家之地。
在617年，马邑郡（今山西朔县）人、鹰扬府校尉刘武周因为和太守王仁恭的侍女私通，怕被发明，便以贪污之名杀死了王仁恭，起兵建立定阳国，自称天子。
窦氏的聪明超出了普通人。隋炀帝看到李渊的脸上皱纹多，便戏称李渊是“阿婆”。李渊回了家很不欢畅，窦氏问清启事，顿时道贺道：“这是吉兆啊，你担当的是唐国公，‘唐’便是‘堂’，‘阿婆面’就是指‘堂主’啊！”窦氏指的是李渊将来要做天子，代替隋炀帝。
李渊在太原起兵以后，便以进军关中拿下长安为终究目标。西进的第一个停滞便是西河郡（今山西汾阳县）。李建成和李世民兄弟俩仅用了九天便得胜而归，使得李渊喜出望外。
突厥兵固然退去了，但难保不再来。为了从底子上处理题目，李渊给突厥写了手札：“若能从我，不侵百姓，挞伐所得，后代财宝，皆可汗有之。”信中为了稳住突厥，李渊勉强责备地用了臣下的语气，如许做也是为了给南下用兵打扫后顾之忧。究竟证明，李渊的战略收到了预期的结果。
窦氏在政治方面对李渊的帮忙是非常大的。李渊本来有很多骏马，窦氏就劝他献给爱马的隋炀帝：“皇上喜好鹰和马，您是晓得的，现在应当把骏马献给皇上，不该本身留着，招人闲言诬告。”李渊开端还舍不得他的骏马，厥后真的被隋炀帝责问。窦氏在45岁时归天，李渊这才细细揣摩亡妻的话，感觉很有事理，因而就常常给隋炀帝送骏马鹰犬，隋炀帝公然非常欢畅，很快升李渊为将军。李渊流着泪对儿子们说：“我如果早点听你们母亲的话，早就做上这类官了。”
而后，李渊又攻打河东，没有攻陷。李渊服从了李世官方接入关中的建议，分兵攻长安。等围攻长安胜利建立唐朝以后，又持续围困，到620年（唐高祖武德三年）农历正月才终究占据河东。
到618年（大业十四年）农历蒲月，隋炀帝的右屯卫将军宇文明及在江都兵变，勒死了隋炀帝，然后立秦王杨浩为帝，本身做大丞相，随后领兵十万北上，但被李密打败。宇文明及败走魏县（今河北大名东），毒死杨浩，本身称帝，建立郑国。第二年，过了天子瘾的宇文明及在聊城被窦建德杀死。
公元611年（大业七年），各地农夫叛逆不竭，天下共有近二百多支反隋叛逆兵。厥后逐步构成三支主力，即窦建德带领的河北叛逆兵，杜伏威带领的江淮叛逆兵，李密、翟让的瓦岗军。
然后，李渊建立了本身的根基的军事和政权机构：设置大将军府，自称大将军，宗子李建成为陇西公、左领军多数督，统领左全军；李世民为敦煌公、右领军多数督，统领右全军；裴寂和刘文静为长史司马。