都很害怕，说：“那该怎么办？”司马德戡说：“骁果军要是逃亡，不如和他们一起逃走。”二人都说：“好！”于是互相联络招引，内史舍人元敏、虎牙郎将赵行枢、鹰扬郎将孟秉、符玺郎李覆、牛方裕、直长许弘仁、薛世良、城门郎唐奉义、医正张恺、勋士杨士览等人都参与谋划，日夜相互约定，在大庭广众之下公开谈论叛乱计划，毫无顾忌。有宫女告诉萧后说：“外面人人都想谋反。”萧后说：“任凭你去禀报皇上。”宫女向隋炀帝报告，隋炀帝大怒，认为这不是宫女该说的话，于是把她杀了。后来又有宫女告诉萧后，萧后说：“天下的事情已经到了这个地步，无法挽救了，说了又有什么用！只会让皇上烦恼罢了！”从此再没人敢禀报。
赵行枢和将作少监宇文智及一向关系密切，杨士览是宇文智及的外甥，二人把谋反的计划告诉了宇文智及，宇文智及非常高兴。司马德戡等人约定在三月望日集结同伙向西逃亡，宇文智及说：“皇上虽然无道，但威严命令还能施行，你们逃走，就像窦贤那样白白送死。现在上天要灭亡隋朝，天下英雄豪杰纷纷起兵，同心叛乱的已有几万人，不如趁机干一番大事业，这是帝王的功业啊。”司马德戡等人表示赞同。赵行枢、薛世良请求拥立宇文智及的哥哥右屯卫将军许公宇文化及为主帅，约定好后，才告诉宇文化及。宇文化及本性怯懦，听说后，脸色大变、浑身流汗，不久还是同意了。
司马德戡派许弘仁、张恺进入备身府，告诉认识的人说：“陛下听说骁果军想叛乱，准备了很多毒酒，想趁着宴会，把我们全都毒死，只和南方人留在这儿。”骁果军士兵都很害怕，便互相转告，导致叛乱的计划更加急切。乙卯日，司马德戡召集所有骁果军军官，说明自己的打算，军官们都说：“听从将军的命令！”当天，大风扬尘，白天一片昏暗。下午，司马德戡偷出皇宫的马匹，秘密磨利兵器。当晚，元礼、裴虔通在宫殿值班，专门负责殿内事务；唐奉义负责关闭城门，和裴虔通互通消息，各城门都不上锁。到了三更天，司马德戡在东城集结几万士兵，点火与城外呼应。隋炀帝看到火光，又听到外面喧闹，询问发生了什么事。裴虔通回答说：“草料场失火，外面的人正在一起救火。”当时宫内外隔绝，隋炀帝相信了。宇文智及和孟秉在城外集结一千多人，劫持候卫虎贲冯普乐，让他派兵分头守卫街道。燕王杨倓察觉到有变故，夜晚，从芳林门旁边的水洞进入宫中，到玄武门，谎称说：“我突然中风，生命垂危，请允许我当面和皇上辞别。”裴虔通等人没有禀报，而是把他关押起来。
丙辰日，天还没亮，司马德戡交给裴虔通士兵，让他替换各城门的守卫。裴虔通从城门率领几百名骑兵到成象殿，宫中守卫大声呼喊有贼；裴虔通于是返回，关闭各城门，只打开东门，驱赶殿内的守卫让他们出去，守卫们都放下兵器逃跑。右屯卫将军独孤盛对裴虔通说：“这是什么军队，形势太反常了！”裴虔通说：“事情已经这样了，和将军无关；将军千万不要乱动！”独孤盛大骂说：“老贼，你说的是什么话！”来不及穿上铠甲，就和身边十几人抵抗，最终被乱兵杀死。独孤盛是独孤楷的弟弟。千牛独孤开远率领殿内几百名士兵到玄武门，敲门请求说：“兵器都还完好，还能打败贼兵。陛下如果出来督战，人心自然安定；否则，灾祸现在就到了！”最终没有回应，士兵们渐渐散去。乱兵抓住独孤开远，因为敬佩他的忠义而释放了他。此前，隋炀帝挑选了几百名勇猛的官奴安置在玄武门，称为“给使”，以防备意外事情，对他们的待遇十分优厚，甚至把宫女赏赐给他们。司宫魏氏受隋炀帝信任，宇文化及等人勾结她做内应。当天，魏氏假传圣旨，让所有给使都出宫，仓促之间，宫中没有一个给使在场。
司马德戡等人率军从玄武门进入宫中，隋炀帝听到叛乱的消息，换了衣服逃到西阁。裴虔通和元礼进军推开左阁门，魏氏打开门，于是进入永巷，询问：“陛下在哪里？”有位美女出来，指了指隋炀帝的藏身之处。校尉令狐行达拔刀径直上前，隋炀帝隔着窗户对令狐行达说：“你想杀我吗？”令狐行达回答说：“臣不敢，只是想奉陛下返回关西。”于是扶隋炀帝下阁。裴虔通本来是隋炀帝做晋王时的亲信，隋炀帝见到他，说：“你不是我的亲信吗！有什么怨恨而谋反？”裴虔通说：“臣不敢谋反，只是将士们思念家乡，想奉陛下返回京师。”隋炀帝说：“我正想回去，只是因为长江上游的运粮船还没到，现在就和你们回去！”裴虔通于是领兵看守他。
到了天亮，孟秉率领身披铠甲的骑兵迎接宇文化及，宇文化及吓得发抖说不出话，有人前来拜见他，他只是低头靠在马鞍上连声说“罪过”。宇文化及到城门时，司马德戡迎接拜见，把他引入朝堂，号称丞相。裴虔通对隋炀帝说：“文武百官都在朝堂上，陛下必须亲自出去安抚。”把自己的随从骑兵交给隋炀帝，逼迫他上马；隋炀帝嫌弃马鞍和缰绳破旧，换了新的才上马。裴虔通牵着缰绳、握着刀出宫门，乱兵欢呼雀跃，声音震动大地。宇文化及大声说：“何必带着这个人出来，赶紧把他带回去处死。”隋炀帝问：“虞世基在哪里？”乱党马文举说