称帝后，李渊命其子李世民等统兵，击败陇西李轨、消灭西秦薛举父子、击退刘武周和宋金刚、擒获夏王窦建德，迫降洛阳王世充，并平定各地农民起义，基本完成了全国的统一大业。

不过李渊晚年，未能妥善处理皇位继承问题，致使二子相争，引发玄武门之变。

事后，李渊无奈之下，只能册立李世民为大唐太子，并很快传位于他，退称太上皇。

贞观九年（635年），李渊病逝，享年七十岁。谥号太武皇帝，庙号高祖，葬于献陵，后定谥为神尧大圣大光孝皇帝。