فعندما حلّت المجاعة في الرها في شتاء عام 372 ـ 373م، ومات عدد غير يسير من أهلها أخذ مار أفرام يطوف دور الأغنياء ويحثّهم على أعمال الرحمة ويجمع منهم الصدقات ويوزّعها على الفقراء. كما أسس دوراً جمع فيها ثلاثمئة سرير وقيل ألفا وثلاثمئة سرير صارت ملجأ للعجزة، وكان يشرف بنفسه على الاعتناء بهم. وعلى إثر الجوع انتشر وباء الطاعون، فانبرى مار أفرام في تطبيب المرضى ومواساتهم حتى أصيب بدوره بداء الطاعون واحتمل صابراً آلامه المبرحة، وفاضت روحه الطاهرة في 9 حزيران عام 373م ودفن في مقبرة الغرباء في ظاهر مدينة الرها بناء على وصيته، وبني على ضريحه دير عرف بالدير السفلي ثم نقلت رفاته الطاهر إلى مقبرة الأساقفة في كنيسة الرها الكبرى، وقيل أنه نقل عام 1145م إلى أوروبا مع ذخائر بعض القديسين وعيّدت له الكنيسة شرقاً وغرباً.