آیت‌الله قدوسی سرانجام بعد از ۳۱ ماه حضور در سمت دادستانی انقلاب، در حالی که ۸ ماه از شهادت فرزندش «محمدحسن» در عملیات هویزه می‌گذشت، در جریان بمبگذاری در دادستانی انقلاب در چهارراه قصر تهران که بعدها گروهگ تروریستی منافقین مسئولیت آن را برعهده گرفت، ترور شد و به شهادت رسید.
بعدها معلوم شد فردی نفوذی از کارمندان دادستانی دقایقی قبل از انفجار در بخش زیرین اتاق آیت‌الله قدوسی بمبی آتش‌زا تعبیه کرده و به سرعت از این مکان خارج شده است. این چنین بود که در ساعت ۸:۴۰ روز ۱۴ شهریور ۱۳۶۰ انفجار مهیبی در زیر دفتر آیت الله قدوسی رخ داد، به نحوی که دیوار پشت سر او جدا شده و او را از اتاقش در طبقه دوم به کف حیاط دادستانی پرت کرد. آیت‌الله قدوسی که به شدت مجروح شده بود ابتدا به بیمارستان ۵۰۱ ارتش و سپس به بیمارستان شهدا انتقال یافته و تحت عمل جراحی قرار گرفت، اما وی در نهایت به دلیل خونریزی شدید مغزی به شهادت رسید.