كان مانديلا، الذي كان ملتزمًا سابقًا بالاحتجاج السلمي، يعتقد أن الكفاح المسلح هو السبيل الوحيد لتحقيق التغيير في عام 1961، وفي عام 1961، نظم مانديلا إضرابًا عماليًا وطنيًا لمدة ثلاثة أيام وتم القبض عليه لقيادته الإضراب في العام التالي وحُكم عليه بالسجن خمس سنوات، وفي عام 1963، قدم مانديلا للمحاكمة مرة أخرى وهذه المرة، حُكم عليه و10 آخرين من قادة حزب المؤتمر الوطني الأفريقي بالسجن مدى الحياة لارتكابهم جرائم سياسية، بما في ذلك التخريب.
قضى مانديلا 27 عامًا في السجن، من نوفمبر 1962 حتى فبراير 1990 وسجن في جزيرة روبن لمدة 18 عامًا من 27 عامًا في السجن، وخلال هذا الوقت، أصيب بمرض السل، وكسجين سياسي أسود، تلقى أدنى مستوى من العلاج من عمال السجن، ومع ذلك، أثناء سجنه، تمكن مانديلا من الحصول على درجة البكالوريوس في القانون من خلال برنامج المراسلة بجامعة لندن.
استمر مانديلا في كونه رمزًا قويًا لمقاومة السود لدرجة أنه تم إطلاق حملة دولية منسقة للإفراج عنه، وقد مثل هذا الدعم الدولي الكبير القوة والاحترام الذي كان لدى مانديلا في المجتمع السياسي العالمي.