7月4日，李淵在晉陽宮東部乾陽門街軍門口豎起白旗誓言，任命四個兒子李元吉為鎮(zhèn)北將軍、太原縣守衛(wèi)，讓他留在晉陽。李淵在誓言中記錄了楊迪皇帝楊光的各種罪行，并宣布將“振興晉陽，尊重大廈，掃除咸洛，集寧玉縣”。第五天，李淵帶領(lǐng)長子李建成、第二個兒子李世民和志愿者從太原南下，指向關(guān)中。

　　七月，李淵與長子建成，次子世民揮師南下，先后破霍邑(今山西霍縣)，渡黃河，向西南挺進(jìn)。當(dāng)時(shí)楊迪皇帝遠(yuǎn)在江都(今江蘇揚(yáng)州)，關(guān)內(nèi)隋軍力量薄弱；中原瓦崗軍和王世充激戰(zhàn)方，無暇西顧。因此，李的父子進(jìn)軍迅速，11月攻入長安。李淵進(jìn)入長安后不久，宣布遙尊楊迪皇帝為太上皇帝，將楊迪皇帝孫代王楊宇為皇帝，改元義寧為隋恭皇帝。恭帝進(jìn)封李淵為唐王，以李建為唐王世子；李世民為京兆尹，改封秦國公；李元吉為齊國公。李世民遷封趙國公，公元618年(義寧二年)。公元618年3月，隋楊帝在江都被部將殺害。

　　五月，李淵即位，國名唐，建元武德，定都長安，為唐高祖。李淵以李世民為書令。不久，李健成為皇太子，李世民為秦王，李元吉為齊王。

　　公元617年(大業(yè)13年)11月初9日，李淵率軍攻占長安，以楊迪皇帝的孫為皇帝，為隋恭皇帝。隋恭皇帝任命李淵為大都督內(nèi)外的軍事、總理和書法記錄，進(jìn)入唐王。

　　第二年五月，隋恭帝被迫禪位于李淵，李淵即位于長安的皇帝，為唐高祖建立了唐朝。