第三天，李渊还没来得及擦干老泪，就被迫选择退位，正式向天下发布李世民为皇太子的诏书。几天后，李渊正式提出“朕当加尊号为太上皇。”
以此正式完成了父子的权力过渡。李渊做了太上皇之后，不仅丧失了对帝国的掌控，同时在生活规格上也失去了许多。贞观三年（629），刚三十出头的李世民得知大破突厥的战报后，颇为得意地对臣下说：“过去国家草创，太上皇以百姓之故，称臣于突厥，朕未尝不痛心疾首，志灭匈奴，坐不安席，食不甘味……今者暂动偏师，无往不捷，耻其雪乎！”
李世民的这番话就是要大家知道，他爹李渊的耻辱，被他全部清洗，这种历史的接力棒，李世民会做得更好，李世民想向天下人证明自己发动“玄武门之变”是正确的。父子此后的感情相当寡淡，甚至彼此已经产生了难以弥合的隔膜，在李渊住到大安宫后，从此再也没有一位大臣去朝见他，他也不能随意与外人往来。缔造大唐的李渊在凄凉、苦闷、失落、走完了老年的生活。贞观九年，李渊去世，享年七十岁。作为父亲来讲，他的儿子终于将全面超越他，这是一种幸运。从人伦角度来讲，这个创建大唐的开国之主的情感世界未免过于凄凉。李渊去世不久，李世民的长孙皇后也去世了，陵寝规模比李渊的还要大。一次李世民和魏征一起观望昭陵，结果魏征故意说看不到，李世民就指着昭陵的方向告诉他。这时候魏征颇为大胆地说：“臣以为陛下望献陵”。