[[Berkas:Yani1958.jpg|fight|jmpl|Kolonel Yani memimpin briefing pada {{death date and age|1958|4|12|1922|6|19}} selama "Operasi 17 Agustus"]]
Setelah [[Proklamasi Kemerdekaan Indonesia|Kemerdekaan]] Indonesia, Yani bergabung dengan tentara republik yang masihbaru mudaterbentuk danuntuk berjuang melawan Belanda yang membonceng sekutu. Selama bulan-bulan pertama setelah Deklarasi[[Proklamasi Kemerdekaan Indonesia|Proklamasi Kemerdekaan]], Yani membentukmemimpin batalion dengan dirinya sebagai Komandantentara dan memimpinmenang kepadadalam kemenanganpertempuran melawan tentara [[Britania Raya|Inggris]] di Magelang. Yani kemudian diikuti ini dengan berhasiljuga mempertahankan Magelang melawandari tentara Belanda ketika ia mencoba untuk mengambil alih kota,dan mendapat julukan "Juruselamat Magelang". SorotPencapaian lainyang yangjuga menonjol dari karier Yani selamadi periodemasa ini adalah serangkaian serangan gerilya yang diluncurkandigencarkan pada awal tahun 1949 untuk mengalihkan perhatian tentara Belanda, sementara [[Hamengkubuwana IX|Sri Sultan Hamengkubuwono IX]] dan Letnan Kolonel [[Soeharto]] dipersiapkanmempersiapkan untukrencana [[Serangan Umum 1 Maret 1949]] yang diarahkan padadi [[Kota Yogyakarta|Yogyakarta]].
Setelah Kemerdekaanpengakuan kedaulatan Indonesia diakui oleh Belanda tahun 1949, Yani dipindahkanpindah ke [[Kota Tegal|Tegal]], [[Jawa Tengah]]. Pada tahun 1952, ia dipanggilmendapatkan kembali beraksitugas untuk melawanmemadamkan pemberontakan [[Negara Islam Indonesia|Darul Islam]],/[[Tentara sebuahIslam kelompokIndonesia]] pemberontak(DI/TII) yang berusaha untukingin mendirikan sebuahnegara teokrasiagama berdasarkan syariat Islam di Indonesia. Untuk menghadapi kelompok pemberontak iniDI/TII, Yani membentuk sebuah kelompok pasukan khusus yang disebut'' The Banteng Raiders''. Keputusan untuk memanggil Yani dividen dibayar dan selama 3 tahun ke depan, pasukan Darul Islam di [[Jawa Tengah]] menderita satu kekalahan demi satu.
Pada Desember 1955, Yani berangkat ke [[Amerika Serikat]] untuk belajar di Komando dan Staf Umum College, Fort Leavenworth, Kansas. Kembali pada tahun 1956, Yani dipindahkan ke Markas Besar Angkatan Darat di [[Daerah Khusus Ibukota Jakarta|Jakarta]] di mana ia menjadi anggota staf Umum untuk [[Abdul Haris Nasution]]. Di Markas Besar Angkatan Darat, Yani menjabat sebagai Asisten Logistik Kepala Staf Angkatan Darat sebelum menjadi Wakil Kepala Staf Angkatan Darat untuk Organisasi dan Kepegawaian.
