Ekkert hérað hafði eins afkastamikla sagnamenn og Skagafjörður. Má þar nefna Jón Espólín sýslumann, Gísla Konráðsson og Einar Bjarnason. Þessir menn fyrri tíðar voru mikilvægir sem ritarar sögu þjóðarinnar fyrr á öldum, en þegar líða fór á 20. öld tóku aðrir menn við merkinu og lögðu áherslu á að gögn þeirra sem rituðu þessar merku heimildir færu ekki í glatkistuna, heldur væru varðveittar komandi kynslóðum til fróðleiks. Sögufélag Skagfirðinga var stofnað árið 1937 og var tilgangur þess m.a. að safna heimildum um liðna tíma og varðveita þau á tryggum stað. Árið 1947 lagði Jón Sigurðsson alþingsmaður á Reynistað fram frumvarp til laga, sem heimilaði stofnun skjalasafna í einstökum héruðum, sem lutu þó yfirstjórn Þjóðskjalasafns Íslands. Var stofnun safnsins beint framhald af stofnun Sögufélagsins og átti í raun að varðveita þær heimildir sem Sögufélagið nýtti sér við rannsóknir og útgáfu. Í kjölfar þess að lögin um héraðsskjalasöfn voru samþykkt var Héraðsskjalasafn Skagfirðinga stofnað og var það hið fyrsta sinnar tegundar en önnur héruð fylgdu á eftir. Engin vafi er á að áhugi Jóns á sögu og menningu Skagafjarðar varð til þess að safnið var stofnað. Tíu árum áður var Sögufélag Skagfirðinga stofnað af Jóni og félögum hans, en þeir gerðu sér fljótlega ljóst að mikilvægt væri að geta safnað gögnum á héraðsvísu og varðveitt heima í héraði. Sögufélagið hafði þegar safnað talvert miklu af handritum og opinberum gögnum, sem það fól nú Héraðsskjalasafninu til varðveislu.
Smátt og smátt óx safninu ásmegin, einkum vegna mikils áhuga nokkurra einstaklinga sem lögðu á sig ómælda vinnu í sjálfboðastarfi við söfnun á skjalgögnum og ljósmyndum. Fyrsti formlegi skjalavörður við safnið var Kristmundur Bjarnason á Sjávarborg og gengdi hann því embætti til 1990 er Hjalti Pálsson tók við sem héraðsskjalavörður. Unnur Ingvarsson var héraðsskjalavörður frá 2000 til 2014. Núverandi héraðsskjalavörður er Sólborg Una Pálsdóttir og tók hún við starfi árið 2014.