1926–1927 m. mokėsi Anykščių progimnazijoje. Baigė suaugusiųjų gimnaziją Kaune.

1937 m. J. Kelmas įstojo į Juozo Miltinio vadovaujamą dramos studiją, vėliau perėjo į Valstybinę dramos studiją, vadovaujamą Boriso Dauguviečio. 1940 m. jis dirbo Kauno Valstybės teatre aktoriumi bendradarbiu.

1942–1943 m. J. Kelmas studijavo Kauno Vytauto Didžiojo universiteto Teologijos-filosofijos fakultete žurnalistiką.

1944 m. jis emigravo į Vokietiją, 1945 m. Fischbecko lietuvių stovykloje subūrė dramos trupę ir jai vadovavo, buvo montažų režisierius.

Nuo 1949 m. J. Kaributas gyveno JAV. 1949–1953 m. jis buvo apsistojęs Ročesteryje (Rochester, Niujorko valstija), sutelkė ateitininkų vaidintojų grupę ir dirbo teatro režisieriumi. Čia jis pastatė vaidinimus: P. Bagdo-Naumiestiškio "Baisus birželis" (1951 m.), L. Fuldos "Mokyklos draugai" (1952 m.), taip pat porą S. Čiurlionienės komedijų.

Nuo 1953 m. jis persikėlė į Los Andželą (Kalifornijos valstija), kur liko iki gyvenimo pabaigos. 1954 m. jis subūrė scenos mėgėjus ir Los Andžele įkūrė Lietuvių dramos sambūrį, veikiantį iki šiol, režisavo jo spektaklius – lietuvių autorių kūrinius. Su šiuo sambūriu jis pastatė scenoje :  B. Zdanavičiaus "Šv. Kazimieras – Lietuvos karalaitis" (1954 m.), J. Gliaudos "Tėviškėlė už kalnų" (1955 m.) ir "Meilės pinaklis" (1956 m.), P. Vaičiūno "Tuščios pastangos" (1958 m.) ir "Naujieji žmonės" (1960 m.).

1964 m. J. Kaributas paliko Dramos sambūrį ir įkūrė Scenos darbuotojų būrelį. Su juo jis pastatė ir vaidino A. Kairio "Diagnozė" (1964 m.), V. Karklinio "Raudonas vynas" (1965 m.), J. Grušo "Nenuorama žmona" (1968 m.) ir kitus spektaklius.

Šalia spektaklių suaugusiems J. Kaributas kūrė vaidinimus ir lietuvių vaikams: J. Švaisto "Vakaras taigoje" (1962 m.), K. Kubilinsko "Stebuklingoji lazdelė" (1965 m.), V. Frankienės "Rūstusis karalius" (1968 m.). Jis taip pat rengė dainų ir poezijos koncertrus, literatūros vakarus.

Nuo 1954 m. J. Kaributas taip pat dirbo Holivude (Hollywood, Kalifornijos valstija) kino filmų pramonėje korespondentu ir recenzentu, rašė straipsnius, filmų recenzijas, ėmė kino kūrėjų interviu.

J. Kaributas dalyvavo JAV Lietuvių bendruomenės Tautos fondo veikloje, 1965 m. buvo išrinktas jo pirmininku. Jis taip pat talkino Amerikos Lietuvių Tarybai, Bendram Amerikos Lietuvių Fondui, ateitininkams, buvo Lietuvių žurnalistų sąjungos narys, Holivudo "Motion Pictures" spaudos klubo narys. 1978 m. J. Kaributas buvo išrinktas į Pasaulio lietuvių žurnalistų sąjungos valdybą.

Nuo 1936 m. jis bendradarbiavo ir Lietuvos periodinėje spaudoje, vėliau aktyviai rašė JAV ir Kanados lietuvių spaudai: "Draugui", "Naujienoms", "Tėviškės žiburiams". J. Kaributas parašė scenos vaizdelius "Tėvynė šaukia" (1955 m.), "Rugiapjūtės pabaigtuvės" (1968 m.), taip pat montažų, inscenizacijų.

Jis parašė ir išleido kelionių įspūdžių knygas "Kelionė aplink pasaulį" (1974 m.), "Pro geležinę uždangą" (1993 m.) ir "Kur lietuviai verkė ir dainavo" (1994 m.), taip pat memuarų knygas "Teatrinio vargo keliais" (1977 m.), "Iš Juozo Kaributo archyvo".

Laisvalaikiu mėgo keliauti, Lietuvai atgavus Nepriklausomybę, jis kelis kartus lankėsi tėviškėje, dalyvavo Pasaulio anykštėnų I suvažiavime 1992 m. Viešėdamas tėviškėje, J. Kaributas inicijavo paminklo Kelmų šeimos atminimui statybą Kinderiuose (Kupiškio r.)

Buvo vedęs, žmona Ona Šlapelytė-Kaributas (1901–1980). Liko našlys. Sūnus Josephas Kaributas.

Mirė 2000 m. kovo 6 d. Los Andžele (JAV).

Kauno paveikslų galerija saugo J. Kaributo dovanotą Šiaurės Amerikos indėnų meno kolekciją.