Neredeyse tüm Anadolu'nun okulsuz ve öğretmensiz olduğu gerçeği gözönüne alınarak, dönemin başbakanı İsmet İnönü'nün himayesinde, Millî Eğitim Bakanı Hasan Ali Yücel tarafından İsmail Hakkı Tonguç'un çabalarıyla köylerden ilkokul mezunu zeki çocukların bu okullarda yetiştirildikten sonra yeniden köylere giderek öğretmen olarak çalışmaları düşüncesiyle kuruldular.
Geleneksel öğretmen okullarında yetişmiş öğretmenler için köylerde öğretmenlik yapmak, istenerek yapılacak bir görevden çok zorunluluk olarak algılanıyordu. Çalıkuşu romanındaki karakter gibi gönüllü ve özverili öğretmenlerin sayısı azdı.
Oysa okuma yazma oranı Cumhuriyet ilk kurulduğu yıllarda %5 bile değildi.
Bunun yanında nüfusun %80'lik bölümü köylerde yaşıyordu. Köy Enstitüleri'nin kurulması ve yaygınlaşması konusunda pedagoji uzmanı Halil Fikret Kanad'ın önemli çalışmaları vardı.
Kanad, zorunluluktan değil özveriyle öğrenci yetiştirecek köye göre öğretmen fikrini savunmuştu.