وعندما سلمت نصيبين إلى الفرس سنة 363م هجرها مار أفرام وبرفقته نخبة طيبة من أساتذة مدرستها وتلامذتها جاؤوا إلى الرها التي كانت من أشهر مدن بلاد ما بين النهرين العليا ومركزاً للتجارة بين بلاد العرب وآسيا الوسطى، وتسمى اليوم أورفا وهي تحت الحكم التركي.
وكان مار أفرام تارة يتنسك في مغارة في جبلها المقدس، وتارة يتفرغ للتدريس في مدرستها الشهيرة التي كانت قد أسست في فجر المسيحية والتي تخرج منها برديصان الشاعر الكبير (154-202م)، ووافا الفيلسوف وأسونا العالم، فجدّدها مار أفرام وصحبه وازدهرت على أيديهم، ودامت حتى عام 489م. وكان تلامذتها ـ وأغلبهم من بلاد فارس ـ يتلقّون دروساً في شرح الكتاب المقدس بعهديه معتمدين بذلك على تفسير مار أفرام وهو أقدم من فسّر الكتاب المقدس عند السريان، كما كانوا يأخذون عنه العلوم اللاهوتية لإثبات حقائق الدين المبين ومناهضة تعاليم طيطيانس ومرقيون وبرديصان وماني وأريوس. فعُدت كتاباته مثالاً للتعاليم اللاهوتية في الكنيسة السريانية.
واهتمّت مدرسة الرها أيضاً بتدريس الفلسفة على مذهب أرسطو و تلقين طلابها العلوم اللغوية والأدبية باللغتين السريانية واليونانية.
وقيل أن مار أفرام قد زار الأنبا بشواي وغيره من النساك في مصر. كما زار بعدئذ القديس مار باسيليوس أسقف قيصرية قبدوقية (+379م)، ويستبعد بعض النقاد هاتين الزيارتين.