同年九月，徐敬业在扬州起兵反武。裴炎趁机道：“天子已经成人，却没有亲政，才让小人有造反的借口。如果把朝政还给天子，叛军不用讨伐便会解散。”御史崔詧道：“裴炎是顾命大臣，听到叛乱，却不愿征讨，只是让太后还政，一定是有异心。”武则天于是将裴炎关入诏狱，命御史大夫骞味道、御史鱼承晔审问。

裴炎入狱后，不肯委曲求全，道：“宰相入狱，哪有能保全的道理！”凤阁侍郎胡元范对武则天道：“裴炎是社稷之臣，有功于国，忠于皇帝，天下皆知，我敢证明他不会谋反。”纳言刘齐贤、左卫率蒋俨都为裴炎辩护。武则天道：“裴炎有造反的意图，只是你们不知道而已。”胡元范、刘齐贤都道：“如果裴炎所为是造反，那我们也是造反。”武则天道：“朕知道裴炎造反，你们不是造反。”

不久，裴炎被斩杀在洛阳都亭。他对兄弟们道：“你们的官职都是自己取得的，我没出什么力，现在却因我而被流放，岂不令人悲痛！” 裴炎死后，为他申辩过的官员相继获罪。宰相刘齐贤被贬为吉州（在今江西）长史，胡元范被流放琼州（今海南），郭待举贬为岳州（在今湖南）刺史，程务挺也被斩杀于军中。

710年（景云元年），唐睿宗复位，追赠裴炎为太尉、益州大都督，谥号为忠。