Gimimo data ir vieta nustatyta pagal Pumpėnų bažnyčios krikšto metrikus, kitų šaltinių duomenimis nurodoma kaip gimęs 1910 m. sausio 12 d. Balčiūniškio kaime.

Tėvai: Vincentas Apanavičius ir Grasilda Dygaitė-Apanavičienė – valstiečiai žemdirbiai.

1910 m. sausio 10 d. Pumpėnų bažnyčioje jį pakrikštijo vikaras Mykolas Jankevičius, krikštatėviai buvo Vincentas Švedarauskas ir Anelė Dygaitė.

1931 m. baigė Panevėžio gimnaziją. 1931–1936 m. studijavo Kauno kunigų seminarijoje. 1935 m. balandžio 6 d. jis gavo subdiakono šventimus.

1936 m. gegužės 31 d. J. Apanavičius buvo įšventintas kunigu.

Paskirtas 1936 m. liepos 1 d., 1936–1937 m. jis buvo vikaras Aleksandravėlėje (Rokiškio r.), 1937–1938 m. – Suoste (Biržų r.), 1938 m. trumpai buvo Traupio (Anykščių r.) parapijos vikaras.

1938–1939 m. J. Apanavičius tęsė studijas Kauno Vytauto Didžiojo universiteto Teologijos-filosofijos fakultete, gavo teologijos licenciato laipsnį.

1939–1944 m. jis buvo Anykščių Šv. Mato parapijos vikaras ir Anykščių progimnazijos kapelionas – paskutinis tokias pareigas Anykščiuose užėmęs dvasininkas. Jis buvo ir progimnazijos mokytojų tarybos sekretorius, vidurinėje mokykloje dėstė tikybą, gimnazistams – bažnyčios istoriją ir lotynų kalbą, pasižymėjo kaip griežtas ir reiklus pedagogas, nelinkęs į artimas draugystes nei su mokiniais, nei su inteligentais. 1941–1941 m., kai sovietinės valdžios buvo suimti Debeikių parapijos kunigai, jis laikinai atliko religines apeigas ir Debeikiuose.

Vėliau J. Apanavičius tarnavo vikaru Vabalninke (Biržų r.), apie 1947–1957 m. buvo Pandėlio (Rokiškio r.) parapijos administratorius, 1957–1964 m. – Surdegio (Anykščių r.) Švč. Mergelės Marijos Ėmimo į dangų parapijos klebonas.

Paskirtas 1964 m. birželio 10 d., 1964–1967 m. jis buvo Skiemonių (Anykščių r.) Švč. Mergelės Marijos Aplankymo bažnyčios klebonas, pasižymėjo kaip uždarokas, į bičiulystes nelinkęs kunigas.

1967–1978 m., iki gyvenimo pabaigos, jis buvo Smilgių (Panevėžio r.) Šv. Jurgio parapijos klebonas.

Mirė 1978 m. balandžio 27 d. Smilgiuose (Panevėžio r.). Palaidotas Smilgių kapinėse. Kapą ženklina iškilus juodo šlifuoto akmens paminklas-kryžius, jo postamente iškalti įrašai: "Kunigas / Juozapas / Apanavičius / Lic. t. / 1910–1978" ir "Smilgių klebonas / Requiescat in pace".