Հովհ. Թումանյանը խիստ կանոնավոր կրթություն երբևէ չի ստացել: Նախնական գրաճանաչություն սովորել է հորից: Ութ տարեկան հասակում մի խումբ գյուղացիների հետ գրել-կարդալ է սովորում հորեղբոր` Գրիշկա բիձու նորաբաց «դպրոցում», որտեղ մատիտները արճիճից էին, թանաքը` կակաչ ծաղկից, որ աշակերտներն իրենք էին պատրաստում: Մի քանի ամիս այդտեղ սովորելուց հետո, 1877 թ. Սկսում է հաճախել գյուղում բացված Սահակ վարժապետի դպրոցը, որն իր «Ինքնակենսագրության» մեջ Թումանյանը շատ վառ ու պատկերավոր ձևով է նկարագրում: Դպրոցը Տեր-Թոդիկյան տիպի էր, որտեղ գործադրվող «մանկավարժական մեթոդներն» էին ծեծը վիրավորանքները` գիտելիքների չնչին պաշարի դիմաց: Տեր Սահակը երեխաներին «կառավարում էր գավազանավ երկաթյավ»: Դաժան ծեծից Թումանյանը զերծ է մնացել, քանի որ «վարժապետը քաշվում էր հորիցս, մանավանդ մորիցս էր վախենում»:
1879 թ. Տեր Թադևոսը որդուն տանում է Էջմիածին` Գևորգյան ճեմարանում ուսման տալու, սակայն տեսնելով սաների դեղնած դեմքերը, Հովհաննեսին ետ է բերում գյուղ: Նույն թվականի աշնանը, տեր Թադևոսը լսելով Ջալալօղլու (այժմ Ստեփանավան) նորաբաց երկսեռ դպրոցի մասին, նրան փոքր եղբոր հետ ընդունել է տալիս այդտեղ`ուսումը շարունակելու:
Դպրոցի տեսուչը` Տիգրան Տեր-Դավթյանը, որ ժամանակի կրթված և զարգացած դեմքերից էր, Թումանյանի հոր մտերիմներից էր: Պատանի Հովհաննեսը սկզբնական շրջանում ապրում է ուսուցչի տանը, օգտվում նրա հարուստ գրադարանից: Ապագա բանաստեղծը սիրահարվում է տեսչի ավագ դստերը` Վերգինեին, որի այն խոսքին. «չլինի թե ինձնով տարված դասերիդ մասին մոռանաս», պատասխանում է իր առաջին սիրային «Հոգուս հատոր» ոտանավորով (1881 թ.): Այդ տարիներին Թումանյանը գրում է և՛ սիրային, և՛ հայրենասիրական, և՛ երգիծական բանաստեղծություններ: 1883 թ. ամռանը ցարական կառավարության հրամանով Փակվում են հայկական դպրոցները, և Թումանյանը վերադառնում է Դսեղ: Նույն թվականի սեպտեմբերին հայրը նրան տանում է Թիֆլիս, որն այդ ժամանակ խոշոր մշակութային կենտրոն էր և հայտնի էր հայկական դպրոցներով ու արվեստի օջախներով:
Սկզբում Տեր-Թադևոսը որդուն տալիս է կադետական դպրոց (Միջնակարգ զինվորական դպրոց ցարական Ռուսաստանում), որովհետև շատ էր ուզում, որ նա իր պապի նման հայտնի զինվորական դառնա, բայց շատ չանցած, չդիմանալով գիշերօթիկի փակ ու ծանր կյանքին, Թումանյանը թողնում է այն:
Այնուհետև ընդունվում է Ներսիսյան դպրոցի 2-րդ դասարան: Ուսումնառությունը տևում է մոտ երեք տարի, որի ընթացքում նա ձեռք է բերում գիտելիքների հարուստ պաշար` հատկապես հումանիտար գիտությունների ասպարեզում: Թումանյանի ուսուցիչներից էին ժամանակի հայտնի մտավորականներ. Վիպասան Ծերենցը (Հ. Շիշմանյան), Գ. Բարխուդարյանը (Շիլլերի թարգմանիչ), բանասեր Կ. Կոստանյանը, ճանաչված թարգմանիչ և մանկավարժ Փ. Վարդանյանը և շատ ուրիշ հայտնի դեմքեր: Պատանի բանաստեղծի աշխարհայացքի ձևավորման գործում կարևոր նշանակություն են ունենում Խ. Աբովյանի «Վերք Հայաստանի», Րաֆֆու «Սամվել» վեպերը, Մ. Նալբանդյանի գեղարվեստական ստեղծագործություններն ու հոդվածները:
