在玄武門之變之前，李世民并未下定決心要除掉自己的兄弟李建成和李元吉。然而，與此同時，秦王府的地位卻面臨著巨大的危機。李淵刻意削弱李世民的勢力，既調走了房玄齡和杜如晦，還禁止他們與秦王產生任何聯系。

　　李淵又借李元吉出征之即，調尉遲敬德入李元吉帳下聽征，從文、武方面都對李世民進行限制和削弱，李淵的考慮當時是為了鞏固太子的地位，他深知李世民對太子的威脅和對權力的覬覦。

　　而李世民從一開始是沒有下定決心做出弒兄逼父的抉擇的，玄武門之變前一天晚上還在猶豫是否去參加李元吉的出征儀式，當晚是尉遲敬德來到秦王府，對李世民呈明利害，讓李世民痛下了殺兄決心。

　　其中尉遲敬德有句比較著名的話：秦王，你如果再不有所作為，起兵謀劃，我和長孫無忌只有今晚就逃命去了。李世民這才意識到問題的嚴重性和自己的地位、性命危機，他立刻招回房玄齡和杜如晦進行商量，謀劃。據說房、杜二人也是尉遲敬德拿刀“請來”的。

　　拋開尉遲敬德隨秦王東征西討、陣前救駕那些事不說，單在“玄武門之變”中他就立了奇功兩件。

　　一是射殺李建成，太子派群龍無首，逐漸放棄抵抗，太子心腹如薛萬均薛萬徹之流最后都作鳥獸散。

　　二是海池劫駕，也就是囚禁李淵。要知道，“玄武門之變”中，即使李世民殺掉李建成和李元吉，但整個長安城乃至天下都還是李淵說了算。所以，殺太子、齊王只是“玄武門之變”的第一步，第二步也是最關鍵的是控制李淵——天下是李淵的天下，也就是說“玄武門之變”的最終目的是老子，而不是大哥和三弟——尉遲敬德武裝入宮，向李淵匯報說太子、齊王謀反，已經被秦王誅殺。李淵審時度勢，迅速認栽。并且尉遲敬德讓李淵寫下手敕，長安城所有部隊歸秦王節制。玄武門——皇宮——長安城——天下，李世民迅速完成從權力中樞到整個大唐的實際控制。

　　史書中說李淵庸碌昏聵，渾渾噩噩，在政變中自動讓權。這都是胡說八道，其實，“槍桿子里面出政權”，李淵自己打出來的江山，這一點他比誰都清楚。如果沒有尉遲敬德的武力脅迫，他不會束手就擒并乖乖讓出皇權的。

　　正因為尉遲敬德完成了“玄武門之變”中最重要的一步拼圖，才在后面的論功行賞中被記了首功。