1921–1922 m. mokėsi privačiai ir lankė metinius mokytojų kursus Ukmergėje, įgijo pradžios mokyklos mokytojo specialybę.

1922–1924 m. J. Gribulis dirbo Karališkių (Anykščių r.) pradžios mokyklos mokytoju.

1924–1928 m. jis mokėsi Marijampolės marijonų gimnazijoje, 1926 m. įstojo į Marijonų kongregaciją.

1935 m. jis baigė Kauno kunigų seminariją ir Vytauto Didžiojo universiteto Teologijos-filosofijos fakulteto Teologijos skyrių, įgijo teologinį išsilavinimą.

1935 m. birželio 15 d. J. Gribulis buvo įšventintas kunigu.

1935–1936 m. jis buvo Panevėžio marijonų bažnyčios vikaras, 1936–1937 m. – Žiežmarių (Kaišiadorių r.) bažnyčios vikaras, 1937–1939 m. – Marijampolės marijonų gimnazijos tikybos mokytojas ir moksleivių bendrabučio prefektas.

1939 m. dėl silpnos sveikatos iš Marijonų kongregacijos jis pasitraukė ir buvo priimtas į Kauno arkivyskupiją. 1939–1940 m. J. Gribulis tarnavo Lygumų (Pakruojo r.) parapijoje vikaru, 1940–1941 m. buvo Vosiliškio (Raseinių r.) vikaras. 1941 m. gegužę jis buvo perkeltas į Kėdainių Šv. Juozapo bažnyčią vikaru, nuo 1941 m. rugsėjo taip pat buvo Kėdainių gimnazijos tikybos dėstytojas ir kapelionas, 1943 m. – Kėdainių amatų mokyklos kapelionas.

1944 m. birželį jis buvo paskirtas Pašvitinio (Pakruojo r.) bažnyčios vikaru, 1944 m. spalį perkeltas į Kairius ir 1944–1948 m. buvo Kairių (Šiaulių r.) Švč. Mergelės Marijos Belaisvių Vaduotojos bažnyčios administratorius, 1948–1951 m. – šios parapijos klebonas.

1951–1955 m. jis buvo Sutkų (Šakių r.) Švč. Mergelės Marijos Belaisvių Vaduotojos parapijos klebonas.

1955–1976 m., iki gyvenimo pabaigos, J. Gribulis buvo Zapyškio (Kauno r.) altarista, talkino pastoracijoje.

J. Gribulis  vertė religinius  tekstus iš lenkų kalbos, parašė vaizdelių iš Zapyškio gyvenimo.

Mirė 1976 m. lapkričio 4 d. Zapyškyje (Kauno r.). Palaidotas Zapyškio kapinėse.