程知节、段志玄及秦府右三统军秦叔宝等人随行，挑选秦王帐下的精锐士兵来补充自己的军队。率更丞王晊秘密告知李世民：“太子对齐王说：‘如今你得到秦王的骁将精兵，拥有数万之众，我与秦王在昆明池为你饯行，让壮士在帐幕下将他拉杀，上奏说他突然死亡，皇上应该不会不信。我会让人进言劝说，让皇上把国家大事交给我。尉迟敬德等人既然到了你的手中，就应该全部活埋，谁敢不服！’”李世民把王晊的话告诉长孙无忌等人，无忌等人劝说李世民先动手除掉他们。李世民叹息说：“骨肉相残，是古今最大的恶行。我确实知道祸患就在眼前，但想等他们先发动，然后再以正义之名讨伐他们，不也可以吗！”尉迟敬德说：“人之常情，谁不爱惜生命！如今众人以死侍奉大王，这是上天授予的机会。祸患即将发生，而大王还安然不以为忧，大王纵然轻视自己，又怎么对得起宗庙社稷呢！大王如果不听我的话，我将逃到荒野之中，不能留在大王身边，白白送死！”长孙无忌说：“不听尉迟敬德的话，事情现在就会失败。尉迟敬德等人必定不会再为大王所有，我也会跟随他们离开，不能再侍奉大王了！”李世民说：“我所说的也并非全不可取，你们再想想别的办法。”尉迟敬德说：“大王如今处事犹豫不决，这是不智；面临危难不能决断，这是不勇。况且大王平时蓄养的勇士八百多人，现在在外的已经进入宫中，身披铠甲、手持兵器，形势已经形成，大王还能罢休吗！”

李世民询问府中僚属，众人都说：“齐王凶狠暴戾，终究不会侍奉他的兄长。近来听说护军薛实曾对齐王说：‘大王的名字，合起来是“唐”字，大王终究会主持大唐的祭祀。’齐王高兴地说：‘只要除掉秦王，夺取东宫就易如反掌。’他与太子图谋作乱还未成功，就已经有了夺取太子之位的心思。作乱的野心没有满足的时候，什么事做不出来！如果让他们二人得志，恐怕天下就不再是大唐的了。以大王的贤能，除掉他们就像拾取地上的草芥一样容易，为什么要固守平民的节操，而忘记国家的大计呢！”李世民仍未决断，众人说：“大王认为舜是怎样的人？”李世民说：“是圣人。”众人说：“如果舜挖井时不出来，就会成为井中的泥土；粉刷粮仓时不下来，就会成为粮仓上的灰烬，怎么能恩泽天下、被后世效仿呢！所以，父亲用小杖打就接受，用大杖打就逃走，大概是因为要保全更大的利益。”李世民下令占卜，幕僚张公谨从外面进来，拿起龟甲扔在地上，说：“占卜是为了决断疑惑；如今事情已经没有疑惑，还占卜什么呢！如果占卜结果不吉利，难道就能罢休吗！”于是定下计策。

李世民让长孙无忌秘密召见房玄龄等人，房玄龄等人说：“皇上下诏不准我们再侍奉大王；如今如果私下拜见，必定会被处死，不敢遵奉命令。”李世民大怒，对尉迟敬德说：“房玄龄、杜如晦难道背叛我了吗！”取下自己佩戴的刀交给尉迟敬德说：“你去看看，如果他们没有来的意思，就砍下他们的首级来见我。”尉迟敬德前往，与长孙无忌一起告知他们：“大王已经下定决心，你们应该尽快入宫共同谋划。我们四人，不能一起走在路上。”于是让房玄龄、杜如晦穿上道士服，与长孙无忌一同入宫，尉迟敬德从另一条路也赶到了。

己未日，太白星再次白天出现。傅奕秘密上奏：“太白星出现在秦地的分野，秦王应当拥有天下。”高祖把奏表交给李世民。于是李世民秘密上奏李建成、李元吉淫乱后宫，并且说：“我对兄弟没有丝毫亏欠，如今他们想要杀我，似乎是在为王世充、窦建德报仇。我现在含冤而死，永远离开君主和亲人，魂魄归于地下，实在耻于见到那些贼寇！”高祖看了奏表，十分惊愕，回复说：“明天我会审问此事，你应该早点入朝。”

庚申日，李世民率领长孙无忌等人入宫，在玄武门埋伏士兵。张婕妤暗中得知李世民的奏表内容，派人火速告知李建成。李建成召见李元吉商议，李元吉说：“应当率领东宫和齐府的军队，称病不上朝，以观察形势。”李建成说：“军队防备已经严密，我应当与弟弟入朝，亲自打听消息。”于是二人一同入宫，直奔玄武门。高祖当时已经召见了裴寂、萧瑀、陈叔达等人，准备审问此事。

李建成、李元吉到达临湖殿，察觉有变，立刻调转马头向东返回东宫和齐府。李世民跟在后面呼喊他们，李元吉拉开弓箭射李世民，多次都没有拉满弓，李世民射死了李建成。尉迟敬德率领七十名骑兵随后赶到，身边的人射死李元吉，李元吉坠马。李世民的马受惊跑到树林里，被树枝挂住，坠马后无法起身。李元吉迅速赶到，夺过弓箭想要扼死李世民，尉迟敬德跃马呵斥他。李元吉步行想要逃往武德殿，尉迟敬德追上去射死了他。翊卫车骑将军冯翊人冯立听说李建成死了，叹息说：“怎么能活着接受他的恩德，死了却逃避他的危难呢！”于是与副护军薛万彻、屈咥直府左车骑万年人谢叔方率领东宫、齐府的精锐士兵两千人，疾驰前往玄武门。张公谨力气很大，独自关闭宫门抵御他们，使他们无法进入。云麾将军敬君弘掌管后宫宿卫，驻扎在玄武门，挺身而出参战，他的亲信阻止他说：“事情还不可知，暂且慢慢观察变化，等军队集结完毕，列阵作战也不晚。