وكان كرسي نزنيز لا يزال خاليًا. وكما قلنا، اضطر القديس اغريغوريوس إلى توليه بعد موت أبيه. وقد كلف "كليدونيوس" Cledonius بذلك أثناء غيابه. كان يتألم عندما يبصر المساوئ المختلفة التي عاتق الأسقف وحده ليعالجها. وكانت له تحركات فعلا لانتخاب أسقف، ولكنه لم ينجح. وضاعف جهاده في سنة 382، وحصلت أخير كنيسة نزنيز على راع، ووقع الاختيار على كاهن فاضل يدعى "أولاليوس" Eulalius.
قرر القديس ان يقضى بقية أيامه في عزلة في "أزينز"، وكان حينئذ متقدما جدا في السن، واشتدت به العلة، ولكن ذلك لم يمنعه من أن يخدم أيضا الكنيسة، وبالأخص كنيسة نزنيز. وكان له في اعتزاله حديقة ونافورة وغابة صغيرة فيتذوق طعم المتع البريئة في الريف، وهي الوحيدة التي كان يسمح لنفسه بها. هناك كان يمارس كل أنواع التقشفات الجسدية، كان يصوم ويسهر كثيرا، وكان يصلى كثيرا راكعا. ولنسمعه هو نفسه يتحدث:
"إني أعيش وسط الصخور والوحوش الضارية. أني لا أرى نارًا أبدًا، ولا استعمل حذاء. تونية بسيطة هي كل ملابسي، أنام فوق القش، وليس لي سوى دثار خشن استعمله كغطاء. إن أرضى ترويها دائما جموعي التي أسكبها".
وفى العقد الأخير من نهاية حياته، أخذ يؤلف قصائد حول بعض المواضيع التقوية لكي يساهم في تثقيف المؤمنين الذين يحبون الموسيقى والشعر. ومن جهة أخرى كان الأبوليناريون قد ألفوا قصائد لكي ينشروا ضلالاتهم، فكانت أبسط وسيلة لمحاربتهم هي مواجهتهم بقصائد أخرى أرثوذكسية، تجدي تلاوتها في التعليم والتثقيف، وفي نفس الوقت تريح النفس.