李淵出身貴族。祖父李虎在西魏官至太尉(與丞相併列的中央高級官員)，李淵的妻子是北周武帝的外甥女，他的姨母是隋文帝的獨孤皇后、隋煬帝的母親。所以說，李淵不但是貴族，還是隋朝的皇親呢!他繼承了祖上的爵位，稱爲唐國公。
公元617年，李淵出任太原留守，被派去鎮壓農民起義。雖然打過幾次勝仗，但農民起義隊伍越來越強大，隋王朝眼看快土崩瓦解，他不得不爲自己考慮起後路來。
李淵有四個兒子，其中第二個兒子李世民最有才華、膽識。當時太原北面的突厥多次來犯，李淵出兵抵抗，連吃幾個敗仗，正在擔心讓隋煬帝知道了，追究起責任來，那可怎麼辦。在封建社會，反抗朝廷被視作大逆不道的首惡，會遭致滅門之災，即使親如父子，彼此也不敢輕易道破。只是隨着形勢的發展，李淵的處境越來越危險，李世民才抓住機會，勸父親起兵反隋。
李淵聽李世民一說這個建議，嚇得直哆嗦，責怪道：“你怎麼說出這種犯上作亂的話來?如果我向上一報告，你就要被砍頭的!”
李世民不慌不忙地說：“父親儘管去邀功請賞告發我，兒子纔不怕呢!”
李淵無可奈何地搖搖手，叮囑兒子以後再也不要說這種話了。
可是第二天，李世民又來和父親談這個話題：“您受命來當太原留守，現在又要討伐造反的人馬，又要抵擋突厥的進攻，實在是力不從心。即使您再有功勞，當今皇上猜忌心重，您的處境就更危險了。兒子覺得您現在只有一條路，就是趕緊起兵反隋。”
李淵嘆了一口氣，猶豫地說：“你的話也有道理，我就是拿不定主意。一旦失敗，那可是要家破人亡的啊!”
李世民見父親鬆了口，便繼續說道：“現在天下大亂，羣雄並起，官軍力量分散，不難對付。我有個朋友叫劉文靜，現在關在晉陽(今山西太原)牢裏，他是個人才，還可以幫我們招兵買馬。”
李淵聽從李世民的勸告，立刻把劉文靜從牢裏放了出來，派他去招集人馬;同時又召回在河東打仗的兩個兒子——李建成和李元吉。
太原的兩個副留守一看形勢不妙，就想要阻止。李淵先下手爲強，給他倆加了個“勾結突厥”的罪名，抓起來殺了。
李淵採納李世民的建議，派劉文靜去跟突厥結交，並送去一份厚禮，說服突厥可汗與自己一起反隋。當突厥可汗同意後，李淵沒有了後顧之憂，才正式起兵。他把士兵都稱作“義士”，自稱“大將軍”，分別封李建成和李世民爲左右領軍大都督，封劉文靜爲司馬。
李淵的策略是先取長安，以關中爲根據地。他依照農民起義軍的做法，打開太原官倉，救濟貧民，收取人心，併發檄文聲討隋煬帝的罪惡。隨後，就帶着三萬人馬朝長安殺來。
攻佔關中的第一個硬仗，是拿下了地勢險要的霍邑(今山西霍州)，全軍上下士氣大振。一路上繼續招兵買馬，所到之處都打開糧倉救濟貧民。老百姓對這支隊伍很有好感，加入進來的人越來越多，當攻打長安時，已經成了一支有二十多萬人的大軍。
李淵攻下長安後，取得號令關中的地位，立即廢除隋朝的苛法暴政，並宣佈約法十二條，受到百姓的歡迎。
李淵見時機沒有完全成熟，暫時還是遙尊隋煬帝爲太上皇，讓隋煬帝的孫子楊侑(yòu)做個傀儡皇帝，即隋恭帝，自己以唐王、大丞相的身份掌握一切軍國大政。
這時，各地起義軍都發展起來了，如李密領導的瓦崗起義軍、竇建德領導的河北起義軍、杜伏威領導的江淮起義軍等，都給隋軍以沉重的打擊。隋煬帝乾脆躲到江都，繼續過着花天酒地的生活。
第二年夏天，護衛隋煬帝的禁衛軍將士，眼看着暴君的末日就快到了，不想跟着送死。大將宇文化及乘機發動兵變，攻進行宮，把隋煬帝軟禁起來。
隋煬帝起初還囂張地問道：“是誰帶頭這樣做的?”
將士們氣憤地說：“天下所有的人都恨透了你這個暴君，恨不得把你千刀萬剮，還需要哪個來帶頭殺你嗎?”
隋煬帝嚇得低下了頭，知道自己的死期到了，便解下巾帶交給看押他的衛士。
公元618年，李淵聽說隋煬帝在江都被宇文化及勒死的消息後，便把楊侑趕下了臺，自己做了皇帝，建立了唐朝，歷史上稱他爲唐高祖。
隋煬帝雖然死了，但東都洛陽還在隋煬帝的孫子楊侗和大臣王世充手中。王世充擁立楊侗爲皇帝，即隋越王，仍打着隋朝的旗號，繼續與起義軍爲敵。
王世充打敗了李密統帥的瓦崗軍後，就把楊侗廢了，自己當皇帝，國號爲鄭。這時，竇建德也自立爲帝，國號叫夏。他們都是剛建立起來的唐朝的強大對手。
李淵派李世民等先後消滅了各支起義軍和割據勢力，直到公元623年，才使唐統一中國的戰爭基本結束。
