李世民一進宮中，就跪倒在李淵的懷里，嚎啕大哭。李淵冷冷的看著兒子：「都處理完了吧？」李世民哽咽說：「已經安定了。」 「一個也沒留？」李世民剛想回答是，但是猛然醒悟。看著李淵一時間不知道該怎麼回答才好。

李淵見到李世民不回答，心中已經知道答案。他不僅失去了兩個兒子，連他的那十余皇孫也已經被斬草除根，永絕后患了。

李淵在心中暗暗想到：「唉！隋煬帝雖然昏庸殘暴，但是也沒有你這般心狠手辣！對于造反宗室的子孫往往還留其一命。你倒好，連還在吃奶的娃娃都不肯放過！」

身邊的近臣都不敢上去勸解，而是離得遠遠的。空蕩的大殿之中，坐著一個孤零零的皇上。李淵看著殿前的白玉台階，眼前的一切是如此的熟悉。為了這個位子，自己費盡心機，苦苦謀劃。經過那麼多艱難險阻，失去的時候卻又如此的輕而易舉。

武德九年八月，李淵正式下詔傳位于太子李世民。李世民故意裝出不肯，百般推辭，李淵也做出非傳位不可的樣子。 兩人在做足了「父慈子孝」的戲碼后，八月九日，李世民在東宮顯德殿即皇帝位，李淵被尊為太上皇。

晚年的李淵，居住在弘義宮。雖然李世民禮數不缺，供應充足。但是李淵還是感到孤單和寂寞。在貞觀九年，李淵走到了他人生的終點。

在李淵死后，李世民為了美化自己，顯示自己得位的合法性，減輕殺兄逼父的后遺癥。修改了史書，竭力抹殺李淵在建立唐朝過程中起到的重要作用和功績，把李淵描繪成一個貪杯好色的平庸之人。這是不公正的。雖然李淵晚年的確有些懈怠政務，但是他在開創唐王朝的過程中起到了中流砥柱，定海神針的作用。