Jóhann fæddist í Grafargerði á Höfðaströnd árið 1891. Foreldrar hans voru Ólafur Kristjánsson bóndi og kona hans Engilráð Kristjánsdóttir. Til tíu ára aldurs ólst Jóhann upp hjá foreldrum sínum, en þá fór hann til föðurbróður síns Jóhanns bónda á Krossi í Óslandshlíð og konu hans Halldóru Þorleifsdóttur. Dvaldi hann hjá þeim til fullorðinsára.
Jóhann naut hefðbundinnar barnaskólafræðslu og haustið 1914 fór hann í Bændaskólann á Hólum og lauk þaðan prófi vorið 1916. Síðar fór hann á námskeið í dýralækningum hjá Sigurði Hlíðar á Akureyri og stundaði töluvert dýralækningar um margra ára skeið. Hann var bóndi í Miðhúsum lengst af (1936-1970). Hann var félagslyndur maður og var kosinn til ýmissa starfa í sveit sinni. Jóhann þótti lipur hagyrðingur og allvíða birtust ljóð eftir hann. Kona Jóhanns var Guðleif Jóhanna Jóhannsdóttir, þau eignuðust tvö börn.