مرّات حاولت يوستينة ترحيله ففشلت ومرة أرسلت إليه من يضربه بالسيف فيبست يده، ومرة لازم الكنيسة أياماً والشعب من حوله, والكنيسة يحاصرها الجند ويمنع الخارجين منها. وفي عظة تفوّه بها قدّيسنا في تلك الحقبة السوداء خاطب الشعب المؤمن بمثل هذه الكلمات: "أخائفون أنتم أن أتخلى عنكم لأنجو لنفسي؟! لا! لا يمكنني أن أتخلى عن الكنيسة لأني أخاف سيد الخليقة أكثر مما أخاف سيد القصر. ربما أمكنهم أن يجرّروا جسدي خارجاً لكنهم لا يقدرون أن يفصلوني عن الكنيسة بالفكر..... لا تضطرب قلوبكم! لن أتخلى عنكم أبداً، ولكن لن أرد العنف بالعنف. بإمكاني أن أتنهد وأبكي. الدموع هي سلاحي الأوحد في مواجهة السيوف والجنود. ليس للأساقفة غير الدموع يدافعون بها عن شعبهم وعن أنفسهم. لا أستطيع, لا بل ليس لي الحق أن أقاوم بطريقة أخرى..... وإن راموا تصفيتي فليس لكم إلا أن تكونوا متفرجين لأنه إذا كانت هذه مشيئة الله فكل احتياطاتكم باطلة. من يحبّني يعطني أن أصير ضحيّة للمسيح.... لن أعطي لقيصر ما هو لله..... أيطالبوننا بالجزية؟ الكنيسة تدفعها! أيرغبون في عقاراتنا؟ بإمكانهم أن يأخذونها! ما يقرّبه الشعب المؤمن كاف لسد حاجة فقرائه. يأخذون علينا أننا ننفق بوفرة على الفقراء. هذا لا أنكره أبداً لأنه لي فخر. صلوات الفقراء هي حصني. أولئك العمي والمخلعون والمسنّون أشدّ بأساً من خيرة المحاربين... القيصر في الكنيسة هو لكنه ليس فوق الكنيسة...."
أخيراً رقدت يوستينة واضطربت الظروف السياسية والعسكرية الإمبراطور والنتينيانوس الثاني، ابنها، أن يغيّر موقفه حتى إنه صار يعتبر القديس أمبروسيوس بمثابة أب له. وبقي كذلك حتى وفاته.
يذكر، في مجال تحصين المؤمنين ضد الهرطقة الآريوسية، إن القديس أمبروسيوس عمد إلى وضع أناشيد تتضمّن حقائق الإيمان القويم أخذ الشعب في إنشادها. بالمناسبة، إلى القديس أمبروسيوس يعود الفضل في إدخال الترتيل المزموري على الأسلوب التناوبي المعروف في الشرق. هذا الأسلوب ازدهر في ميلان أولاً ثم انتقل إلى كل كنائس الغرب.