Haraldur fæddist á Ysta-Mói í Fljótum og ólst þar upp. Faðir: Hermann Jónsson, bóndi og hreppstjóri á Ysta-Mói (1891-1974). Móðir: Elín Lárusdóttir (1890-1980) húsfreyja á Ysta-Mói. Eftir barna- og unglingaskóla í Fljótum hélt Haraldur til náms við Héraðsskólann í Reykholti í Borgarfirði og var þar einn vetur. Haraldur hóf búskap á Ysta-Mói ásamt konu sinni árið 1947 og bjó þar í félagi við foreldra sína. Þau hættu búskap 1973 þegar elsti sonur hans tók við búinu. Haraldur flutti þá í Haganesvík þar sem hann tók við starfi kaupfélagsstjóra Samvinnufélags Fljótamanna ásamt því að sjá um póstafgreiðslu fyrir sveitina. Hann var kaupfélagsstjóri til ársins 1977 en þá var Samvinnufélag Fljótamanna sameinað Kaupfélagi Skagfirðinga og starfsemin flutt að Ketilási. Haraldur vann svo hjá Kaupfélagi Skagfirðinga, fyrst að Ketilsási og síðan hjá byggingarvörudeild Kaupfélagsins á Sauðárkróki en þangað flutti hann 1979. Haraldur gegndi ýmsum trúnaðarstörfum, var m.a. hreppstjóri Haganeshrepps 1970-82, hreppsnefndarmaður, sýslunefndarmaður, í stjórn Búnaðarsambands Skagafjarðar og formaður jarðanefndar Skagafjarðarsýslu, ásamt ýmsum öðrum trúnaðarstörfum. Haraldur sinnti auk þess ýmsum félags- og íþróttamálum, t.d. formennsku í Skíðafélagi Fljótamanna um árabil, formennsku fyrir Veiðifélag Flókadalsár, ásamt ýmsum öðrum félagsstörfum. Hann var mikill áhugamaður um skák. Haraldur kvæntist 29.12. 1946 Guðmundu Pálínu Hermannsdóttur, þau eignuðust níu börn.