Pada 3 Juli 1922, Sudirman pindah ke Sekolah Tamansiswa yang didirikan oleh Ki hadjar Dewantara. Tamat dari Tamansiswa, kemudian melanjutkan pendidikannya di sebuah Sekolah Menengah Pertama di Wirotomo.

Begitu lulus, Sudirman melanjutkan pendidikannya di Sekolah Guru milik Persyarikatan Muhammadiyah di Solo namun tidak tamat.

Sudirman dan keluarganya kemudian pindah domisili ke Manggisan, Cilacap. Di sana dia ikut merintis pendirian Hizbul Wath, sebuah organisasi Kepanduan Putra yang didirikan oleh Persyarikatan Muhammadiyah.

Di sini, Sudirman diangkat menjadi guru oleh tokoh-tokoh Muhammadiyah sekaligus menjadi Ketua Kelompok Pemuda Muhammadiyah.

Sudirman perdana mengenal senjata sekaligus memulai kehidupan militer ketika Jepang mulai menduduki Indonesia pada 1942 dan membentuk pasukan Pembela Tanah Air (Peta) pada 1944.