Fæddur á Eiríksstöðum í Svartárdal, foreldrar hans voru Ólafur Gíslason og Helga Sölvadóttir. Gísli bjó lengi vel á Eiríksstöðum með foreldrum sínum. Hann vann ýmis störf utan heimilis og sótti einn vetur nám í unglingaskóla hjá Árna Hafstað í Vík. Gísli kvæntist árið 1914 Jakobínu G. Þorleifsdóttur og voru þau hjón í húsmennsku á bæjum í Svartárdal fyrstu hjúskaparár sín. Árið 1924 fluttust það til Blönduóss þar sem Gísli stundaði daglaunavinnu. 1928 fluttu þau til Sauðárkróks þar sem þau bjuggu til æviloka, húsið sem þau bjuggu í við Suðurgötu 11b nefndu þau Eiríksstaði. Gísla var í blóð borin rík hagmælska og hann byrjaði snemma að yrkja. Fyrsta bók hans, Ljóð, kom út 1917, Nokkrar stökur kom út 1924. Samantekt fyrri ljóða ásamt nýjum viðauka, Á brotnandi bárum, kom út 1944. Síðasta bók hans, Í landvari, kom út árið 1960. Nokkur þekkt sönglög hafa verið samin við texta hans, t.d. Myndin þín eftir Eyþór Stefánsson. Gísli hlaut listamannalaun ríkisins frá 1945. Gísli lék einnig á orgel og var góður kvæðamaður.
Gísli og Jakobína eignuðust þrjú börn og ólu einnig upp dótturson sinn.