Bugünkü Bulgaristan'ın Silistre iline bağlı Totrakan ilçesinin bugünkü adı Sokol olan Tatar Atmaca köyünde

1893 yılında dünyaya geldi. Baba adı Hacı Veli Oğlu İdris, anne adı ise Vesile'dir. Kendinden küçük bir kız altı erkek kardeşi vardır. Kendi köyünde dört yıllık ilkokulu ve üç yıllık rüştiyeyi bitirdi. Oradaki öğrenimi sırasında aynı zamanda köyün değişik işlerinde çalıştı ve tarımla uğraştı.

1914 yılında öğrenimine devam etmek üzere tek başına İstanbul'a gitti, sıkıntı çekti, ardından Maarif Nazırı (Eğitim Bakanı) Şükrü Bey tarafından leyli meccani (parasız yatılı) öğrenci olarak Kastamonu Muallim Mektebi'ne gönderildi. 1916'da naklen İstanbul Muallim Mektebi'ne gelerek öğrenciliğine orada devam etti. Muallim Mektebi'nde öğrenciliği, Birinci Dünya Savaşı'nın güç yaşam koşullarını dayattığı yıllara rastlamaktadır. Okulu bitirdikten sonra 1918'de Almanya'ya daha üst öğrenim için gönderildi. 1918-1919 yıllarında Almanya'nın Karlsruhe kentindeki Ettlingen Öğretmen Okulu'nda sekiz aylık bir programa devam etti. 1919'da Anadolu'ya dönerek, Eskişehir Muallim Mektebi'nde Resim ve Elişi ile Beden Eğitimi öğretmeni olarak göreve başladı. 1921'de Yunan işgalinden hemen önce Ankara'ya atandı, 1922'de yeniden öğrenim görmek üzere Almanya'ya gönderildi.

1922 sonundan başlayarak 1924 Nisan'ına değin Konya Muallim Mektebi'nde, aynı yılın güzüne değin ise Ankara Muallim Mektebi'nde öğretmenlik ve yöneticilik yaptı. Daha sonra kısa bir süre Adana Muallim Mektebi'nde öğretmenlik yaptıktan sonra, 1925'te beş aylığına mesleki eğitim kurumlarında incelemeler yapmak üzere yeniden Almanya'ya gitti. 1925'te Ankara Muallim Mektebi'nde öğretmenlik yaptı, 11 Mart 1926'da Maarif Vekaleti Levazım ve Alatı Dersiye Müzesi Müdürlüğü'ne atanarak artık merkezdeki yöneticilerden biri oldu. 10 Temmuz 1926 ile 26 Ağustos 1926 tarihleri arasında, ilköğretim müfettişleri ve ilkokul öğretmenleri için Ankara'da açılan "İş İlkesine Dayalı Öğretim Kursu"nda, yabancı öğretim üyeleri ile birlikte çalışarak, daha sonra Köy Enstitülerinin temel ilkesi, sloganı (Osmanlıca'da "şiar", İng. "motto") durumuna gelecek "iş için iş içinde işle eğitim" anlayışını geliştirdi.

26 Ocak 1927'de ilkokul öğretmeni Nafia Kamil ile evlendi. Aynı yıl, Sivas'ta ve Ankara'da ilköğretim müfettişleri için açılan kurslarda öğretmenlik yaptı ve Ankara'da uluslararası ders araç-gereçleri sergisini açtı.

1928'de ilk çocuğu olan Engin Tonguç, 1936'da ikinci çocuğu Yalım Tonguç dünyaya geldi.

1929-1933 yıllarında, diğer görevlerinin yanısıra, Gazi Eğitim Enstitüsü'nde de etkin görevlerde bulundu. Orada hem öğretmenlik yaptı, hem de Resim-İş Bölümü'nü kurdu. 1934'te Soyadı Kanunu'yla Tonguç soyadını aldı. 1934-1935 yıllarında Gazi Eğitim Enstitüsü'nde vekil olarak müdürlük yaptı.

3 Ağustos 1935'te köy enstitülerini kurmasına yarayacak İlköğretim Genel Müdürlüğü görevine vekaleten getirildi. Dönemin Kültür Bakanı Saffet Arıkan'a, köy enstitülerinin temelini oluşturacak bir rapor sundu.

1936'da Kayseri, Çorum ve Yozgat illerini kapsayan bir geziyle, buralarda eğitmen kurslarının açılabilirliğini araştırdı. Temmuz 1936'da da Köy Enstitüleri'nin önceli sayılan ilk Eğitmen Kursu'nu Eskişehir iline bağlı Mahmudiye'de açtı.

Atatürk'ün desteği ile o dönem Türkiye'deki okuryazar oranı %10'dan az olduğundan, okuryazar sayısını artırmak için eğitmen kurslarında altı aylık bir eğitimle, askerliğini okuma yazma bilen çavuş olarak yapmış gençler eğitmen olarak yetiştirildi ve köylerine eğitmen olarak gönderildi.

1937'de Köy Eğitmenleri Yasası çıktıktan sonra, İzmir'de Kızılçullu'da (bugünkü Şirinyer), Eskişehir Çifteler'de ilk köy öğretmen okulları açıldı. 1938'de ilköğretim kurumlarını incelemek üzere Bulgaristan'da, Macaristan'da ve Almanya'da bulundu. 28 Aralık 1938'de Hasan-Âli Yücel Milli Eğitim Bakanı olduktan sonra, vekaleten yürüttüğü İlköğretim Genel Müdürlüğü görevine asaleten atandı.

17 Nisan 1940'ta Köy Enstitüleri Kanunu çıktıktan sonra açılmaya başlayan enstitülerle çok yakından ilgilendi. 1946'da görevden alınışına değin, enstitüler için canla başla çalıştı. Öyle ki, kendi ailesiyle bile yeterince ilgilenemedi; ikinci oğlu Yalım Tonguç, 1944'te öldü. İkinci Cumhurbaşkanı İsmet İnönü çalışmalarından dolayı kendisini takdir ettiğhalde, seçimleri kaybetmemek için, çok desteklediği Köy Enstitüleri sevdasından vazgeçen İnönü, O'nu, 25 Eylül 1946'da görevinden alarak, Talim Terbiye Kurulu üyeliğine getirdi. Ardından Türkiye'nin değişik yerlerinde sürgün olarak öğretmenlik yaptı. 1954'te kendi isteğiyle emekli oldu.

1956'da Avrupa'yı gezdi ve İsviçre'deki Pestalozzi Çocuklar Köyü'nü inceledi. 1958'de hastalanan İsmail Hakkı Tonguç, 11 Haziran 1960'ta çoktan kapatılan Hasanoğlan Köy Enstitüsü'ne yıllar sonra ilk kez gitti. 24 Haziran 1960'ta yaşama gözlerini yumdu. Arkasından hakkında birçok kitap yazıldı ve adını taşıyan okullar açıldı.