ביום הסתלקותו של הרב, כ"ה בסיון תש"ע, חלה התדרדרות חמורה במצבו. הרופאים הוזעקו למיטתו, אך הם ידעו שזו לא הפעם הראשונה וקיוו שגם לא האחרונה. הרי אחת לכמה ימים או שבועות היה מתדרדר מצבו הרפואי של הרב, ולמרות זאת הוא נחלץ עשרות פעמים ממצב שהוגדר "אנוש" או "קריטי".
בכל פעם שהרב היה מגיע למצב חמור שכזה, היו רצים לביתו ומביאים אל מיטתו את הגלימה שהעניק לו הצדיק הקדוש רבי ישראל אביחצירא זיע"א, ה"בבא סאלי". בערוב ימיו, כשהיה ה"בבא סאלי" מוטל על ערש דווי, קרא לרב שיבוא ואמר לו: "מובטח הייתי שאזכה לקבל פני משיח צדקנו, אבל כעת אינני מובטח עוד. גזירות גדולות וקשות ראיתי שמרחפות על עם ישראל והתאמצתי מאד לבטלן, עד שלא נותרה לי ברירה אלא לבקש שיקחוני כפרה בעד כלל ישראל. בתחילה לא הסכימו, כי כבר מובטח הייתי לקבל פני משיח, אבל התעקשתי והתחננתי והודעתי כי אני מוותר ומוחל על ההבטחה".
נטל ה"בבא סאלי" את גלימתו ואמר לרב: "חכם מרדכי, אתה תזכה לקבל פני משיח צדקנו, ורוצה אני שתלבש את הגלימה שהכנתי עבורי לקבל בה פניו. היזהר, כי בכיסה יש כמה שערות שנשרו מזקני, ורצוני שחלק ממני ישתתף בקבלת פני משיח".
את הגלימה הזו היו מביאים בכל פעם, כמו לעורר רחמי שמים ולהזכיר שהרב חייב להישאר עמנו בעולם הזה, ולעטות על גופו את הגלימה של ה"בבא סאלי" ולצאת לקבל את פני משיח צדקנו. גם באותו יום עשו כן. אבל כשיצא השליח מביתו של הרב בדרכו לבית החולים, גילה כי פקק אינסופי משתרך בכביש המוליך אל בית החולים. מבית החולים התקשרו שוב ושוב אל השליח, ואפילו האיצו בו לעזוב את הרכב ולרוץ ברגליו אל בית החולים. אך הוא לא הספיק.
ההתדרדרות נמשכה, והרופאים עקבו וראו שהחיים אוזלים מגופו הטהור של הצדיק. ואז, כאשר ה"מוניטור" הראה על כמעט "אפס חיים", פקח הרב את עיניו והחל למלמל. הטו אוזן וניסו לקלוט, אך לא הבינו מה הוא אומר. פניו האירו באור יקרות והנוכחים חשו צמרמורת. ואז השתתק הרב ועיניו נעצמו. עד ביאת גואל צדק.
ויהי בנסוע הארון מהיכל בית מדרשו של הרב, נאספו עשרות אלפי איש ברחובות הסמוכים, אשכולות אדם ממררים בבכי, קבוצות קבוצות המביטים איש ברעהו ומסרבים להאמין. והבכי פורץ מן הלבבות, מרטיט את כתפיהם החסונות של אנשים מבוגרים. ילדים שזכו והוריהם הביאו אותם להיות נוכחים במעמד "אשכבתא דרבי", נושאים עיניים גדולות וסקרניות ואינם מבינים: "וכי גם אנשים מבוגרים בוכים?!" ולא ידעו ולא הבינו כמה גדולה האבידה ותמורה אין לה.
בינתיים, בכביש הכניסה לירושלים מתפתל פקק ארוך של אלפי מכוניות, והמשטרה אינה מסוגלת עוד לשלוט בעומסי התנועה. בסופו של דבר ניתן האישור, ובכביש הראשי חונים הרכבים ורבבות נוספים עושים דרכם אל הר המנוחות. למעלה ממאה אלף בני אדם השתתפו בהלוויה, שנערכה בשעת לילה מאוחרת וזמן קצר לאחר הסתלקותו של הרב.
במרומי הר המנוחות, סמוך לציון קדשו של הרב חיד"א זיע"א, שעצמותיו הועלו לארץ ישראל והרב עסק בקבורתן, נכרה קברו של הרב. ושם מנוחתו כבוד עד ביאת משיח צדקנו, כאשר יקיצו וירננו שוכני עפר, במהרה בימינו אמן ואמן.
