Setelah lulus dari [[AMS]] Salemba di Jakarta tahun 1934, Herman Johannes menjadimelanjutkan pendidikannya mahasiswake ''[[Technische Hoogeschool te Bandoeng]]'' ([[THS]]) sejakpada tahun akademik 1934-1935. Pada bulan Juni 1939, ia sudah lulus tahap ''candidaat-ingenieur'' (lulus tingkat III)<ref>{{nl}} [http://kranten.delpher.nl/nl/view/index?image=ddd%3A011121299%3Ampeg21%3Aa0235 "Technische Hoogeschool" dalam Harian ''"Soerabaijasch handelsblad"'' edisi 12 Juni 1939, Tahun ke-87 No.134.]</ref> dan tinggal menyelesaikan tingkat IV - tahap keinsinyurannya, yang jika lancar dapat ditempuh dalam satu tahun untuk mencapai gelar ''civiel-ingenieur'' - insinyur sipil, namun dengan jatuhnya Hindia Belanda pada tanggal 8 Maret 1942 THS Bandung ditutup, sehingga studinya terpaksa terhenti. Tahun 1944 Jepang membuka kembali sekolah ini dengan nama [[Bandung Kogyo Daigaku]] (BKD), setelah proklamasi kemerdekaan tahun 1945 BKD diubah menjadi Sekolah Tinggi Teknik (STT) Bandung yang kemudian hijrah ke Yogyakarta menjadi [[Sekolah Tinggi Teknik Bandung]] di Yogyakarta di awal tahun 1946. Sekitar bulan Oktober 1946 Herman Johannes menyelesaikan studinya di STT Bandung di Yogya yang kemudian menjadi cikal bakal Fakultas Teknik Universitas Gadjah Mada di mana dia termasuk salah satu perintisnya. Herman Johannes banyak mengabdikan dirinya kepada kepentingan negara dan bangsanya, terutama rakyat kecil. Hingga menjelang akhir hayatnya, ia masih melakukan penelitian yang menghasilkan kompor hemat energi dengan [[briket arang biomassa]]. Keprihatinannya akan tingginya harga minyak bumi, selalu mendorongnya untuk mencari bahan bakar alternatif yang bisa dipakai secara luas oleh masyarakat. Herman Johannes pernah meneliti kemungkinan penggunaan [[lamtoro gung]], [[nipah]], [[widuri]], [[limbah]] [[pertanian]], dan [[gambut]] sebagai bahan bakar.
Meski lebih banyak dikenal sebagai pendidik dan ilmuwan, Herman Johannes tercatat pernah berkarier di bidang [[militer]].<ref>[[Julius Pour]] 1993. ''Herman Johannes: Tokoh yang Konsisten dalam Sikap dan Perbuatan''. [[Gramedia]], Jakarta. [[Biografi]].</ref>. Tanggal 4 November 1946 Herman Johannes menerima Surat Perintah yang ditadatangani Kapten (Kavaleri) Soerjosoemarno (kemudian menjadi ayah dari [[Yapto Soerjosoemarno]]) yang mengatasnamakan Kepala Staf Umum Kementerian Keamanan Rakyat Letjen [[Urip Sumohardjo]], yang isinya agar segera hadir dan melapor ke [[Markas Tertinggi Tentara]] di Yogyakarta. Ternyata Herman Johannes diminta membangun sebuah laboratorium persenjataan bagi TNI, karena pemerintah Indonesia saat itu sedang mengalami krisis persenjataan. Permintaan ini diterimanya dengan satu syarat, yakni jika laboratorium itu sudah bisa berdiri dan berproduksi, maka penanganannya harus dilanjutkan orang lain sebab Herman Johannes ingin melanjutkan kariernya di bidang pendidikan. Di bawah pimpinan Herman Johannes, Laboratorium Persenjataan yang terletak di bangunan [[Sekolah Menengah Tinggi]] ([[SMT]]) [[Kotabaru, Gondokusuman, Yogyakarta|Kotabaru]] ini selama perang kemerdekaan berhasil memproduksi bemacam bahan peledak, seperti bom asap dan granat tangan.
