李渊出身贵族.祖父李虎在西魏官至太尉(与丞相并列的中央高级官员)，李渊的妻子是北周武帝的外甥女，他的姨母是隋文帝的独孤皇后、隋炀帝的母亲.所以说，李渊不但是贵族，还是隋朝的皇亲呢!他继承了祖上的爵位，称为唐国公.
公元６１７年，李渊出任太原留守，被派去镇压农民起义.虽然打过几次胜仗，但农民起义队伍越来越强大，隋王朝眼看快土崩瓦解，他不得不为自己考虑起后路来.
李渊有四个儿子，其中第二个儿子李世民最有才华、胆识.当时太原北面的突厥多次来犯，李渊出兵抵抗，连吃几个败仗，正在担心让隋炀帝知道了，追究起责任来，那可怎么办.在封建社会，反抗朝廷被视作大逆不道的首恶，会遭致灭门之灾，即使亲如父子，彼此也不敢轻易道破.只是随着形势的发展，李渊的处境越来越危险，李世民才抓住机会，劝父亲起兵反隋.
李渊听李世民一说这个建议，吓得直哆嗦，责怪道：“你怎么说出这种犯上作乱的话来?如果我向上一报告，你就要被砍头的!”
李世民不慌不忙地说：“父亲尽管去邀功请赏告发我，儿子才不怕呢!”
李渊无可奈何地摇摇手，叮嘱儿子以后再也不要说这种话了.
可是第二天，李世民又来和父亲谈这个话题：“您受命来当太原留守，现在又要讨伐造反的人马，又要抵挡突厥的进攻，实在是力不从心.即使您再有功劳，当今皇上猜忌心重，您的处境就更危险了.儿子觉得您现在只有一条路，就是赶紧起兵反隋.”
李渊叹了一口气，犹豫地说：“你的话也有道理，我就是拿不定主意.一旦失败，那可是要家破人亡的啊!”
李世民见父亲松了口，便继续说道：“现在天下大乱，群雄并起，官军力量分散，不难对付.我有个朋友叫刘文静，现在关在晋阳(今山西太原)牢里，他是个人才，还可以帮我们
招兵买马.”
李渊听从李世民的劝告，立刻把刘文静从牢里放了出来，派他去招集人马；同时又召回在河东打仗的两个儿子——李建成和李元吉.
太原的两个副留守一看形势不妙，就想要阻止.李渊先下手为强，给他俩加了个“勾结突厥”的罪名，抓起来杀了.
李渊采纳李世民的建议，派刘文静去跟突厥结交，并送去一份厚礼，说服突厥可汗与自己一起反隋.当突厥可汗同意后，李渊没有了后顾之忧，才正式起兵.他把士兵都称作“义士”，自称“大将军”，分别封李建成和李世民为左右领军大都督，封刘文静为司马.
李渊的策略是先取长安，以关中为根据地.他依照农民起义军的做法，打开太原官仓，救济贫民，收取人心，并发檄文声讨隋炀帝的罪恶.随后，就带着三万人马朝长安杀来.
攻占关中的第一个硬仗，是拿下了地势险要的霍邑(今山西霍州)，全军上下士气大振.一路上继续
招兵买马，所到之处都打开粮仓救济贫民.老百姓对这支队伍很有好感，加入进来的人越来越多，当攻打长安时，已经成了一支有二十多万人的大军.
李渊攻下长安后，取得号令关中的地位，立即废除隋朝的苛法暴政，并宣布约法十二条，受到百姓的欢迎.
李渊见时机没有完全成熟，暂时还是遥尊隋炀帝为
太上皇，让隋炀帝的孙子杨侑（ｙòｕ）做个傀儡皇帝，即隋恭帝，自己以唐王、大丞相的身份掌握一切军国大政.
这时，各地起义军都发展起来了，如李密领导的瓦岗起义军、窦建德领导的河北起义军、杜伏威领导的江淮起义军等，都给隋军以沉重的打击.隋炀帝干脆躲到江都，继续过着花天酒地的生活.
第二年夏天，护卫隋炀帝的禁卫军将士，眼看着暴君的末日就快到了，不想跟着送死.大将宇文化及乘机发动兵变，攻进行宫，把隋炀帝软禁起来.
隋炀帝起初还嚣张地问道：“是谁带头这样做的?”
将士们气愤地说：“天下所有的人都恨透了你这个暴君，恨不得把你千刀万剐，还需要哪个来带头杀你吗?”
隋炀帝吓得低下了头，知道自己的死期到了，便解下巾带交给看押他的卫士.
公元618年，李渊听说隋炀帝在江都被宇文化及勒死的消息后，便把杨侑赶下了台，自己做了皇帝，建立了唐朝，历史上称他为唐高祖.
隋炀帝虽然死了，但东都洛阳还在隋炀帝的孙子杨侗和大臣王世充手中.王世充拥立杨侗为皇帝，即隋越王，仍打着隋朝的旗号，继续与起义军为敌.
王世充打败了李密统帅的瓦岗军后，就把杨侗废了，自己当皇帝，国号为郑.这时，窦建德也自立为帝，国号叫夏.他们都是刚建立起来的唐朝的强大对手.
李渊派李世民等先后消灭了各支起义军和割据势力，直到公元６２３年，才使唐统一中国的战争基本结束.