Putra seorang profesor farmakologi, al-Zawahiri dilaporkan ditangkap pada usia 15 tahun karena bergabung dengan Ikhwanul Muslimin yang dilarang. Dia juga menemukan inspirasi dalam ide-ide revolusioner penulis Mesir Sayyid Qutb, yang dieksekusi pada tahun 1966 atas tuduhan mencoba menggulingkan negara.

Orang-orang yang belajar dengan al-Zawahiri di Fakultas Kedokteran Universitas Kairo pada 1970-an menggambarkan seorang pemuda yang bersemangat pergi ke bioskop, mendengarkan musik dan bercanda dengan teman-temannya. 

Tapi dia juga aktif di lingkaran oposisi bersenjata. Dia menggabungkan selnya sendiri dengan orang lain untuk membentuk kelompok Jihad Islam dan mulai mencoba menyusup ke militer – bahkan menyimpan senjata di klinik pribadinya.

Al-Zawahiri pertama kali menjadi terkenal ketika dia berdiri di ruang sidang menghadapi tuduhan atas pembunuhan Presiden Mesir Anwar Sadat pada tahun 1981.

“Kami telah berkorban dan kami masih siap untuk lebih banyak pengorbanan sampai kemenangan Islam,” teriak al-Zawahiri, mengenakan jubah putih, ketika sesama terdakwa yang marah dengan perjanjian damai Sadat dengan Israel meneriakkan slogan-slogan.

Al-Zawahiri menjalani hukuman penjara tiga tahun karena kepemilikan senjata ilegal tetapi dibebaskan dari tuduhan utama dalam pembunuhan itu.