武德九年六月初四庚申日（626年7月2日），李世民在帝都长安城宫城玄武门附近射杀皇太子李建成、齐王李元吉，史称“玄武门之变”。事后，李世民杀李建成、李元吉诸子，并将他们从宗籍中除名。李渊让出军政大权给予秦王李世民，三天后（六月初七癸亥日，626年7月5日），李世民被立为皇太子，李渊下诏说：“自今以后军国事务，无论大小悉数委任太子处决，然后奏闻皇帝。”
武德九年八月初九甲子日（626年9月4日），李渊退位称太上皇，禅位于李世民。李世民登基，是为唐太宗，次年改元贞观。
前殿，年七十一岁，庙号高祖。同年农历十月，安葬于献陵（今陕西三原县内），其妻窦氏也加号太穆皇后祔葬。

因病去世

　李渊做太上皇以后，开始的几年是在太极宫生活的。一直到贞观三年（629）农历四月，他才从太极宫迁出，搬到了大安宫。

在大安宫生活期间，李渊除了参加李世民举行的一些宴会外，几乎不曾离开过大安宫。李世民经常到九成宫（即隋朝的仁寿宫，位于今陕西麟游）避暑，李渊也不愿意出行。

　　贞观八年（634）农历十月，李世民决定在宫城的东北方向营建大明宫，作为太上皇的“清暑之所”。（由于第二年李渊病死，大明宫没有建成，一直到高宗之世，大明宫才渐成规模。）

　　贞观九年（635年）农历五月，李渊因病驾崩于垂拱前殿，年七十一岁，庙号高祖。同年农历十月，安葬于献陵（今陕西三原县内），其妻窦氏也加号太穆皇后祔葬。

为政举措

　　李渊称帝后，百废待举。他一面组织力量进行统一全国的战争，一面注意加强政权建设。唐朝前期的政治、经济、文化、军事制度，在李渊时期基本上初具规模。

政治

　　政治体制方面，李渊继承了隋朝的制度，又有一些发展。唐朝中央建立政治制度概括地说是三省六部二十四司。三省是尚书省、中书省和门下省。尚书省掌管全国政令，是命令的执行机关。下属共有六部，即吏、户、礼、兵、刑、工。吏部掌管官吏的选用、考核与奖惩；户部掌户籍和赋税；吏部掌礼仪和科举；兵部掌军事；刑部掌刑狱；工部掌土木工程；每部又分四司来作为办事机关。中书省负责皇帝诏书的起草，是决策机关。门下省则审核中书省起草的诏书，不合适的驳回修改。监察机关是御史台，职责是监督、弹劾文武百官。