1927–1935 m. mokėsi Panevėžio berniukų gimnazijoje. 1935–1936 m. studijavo Kauno kunigų seminarijoje, baigė Filosofinį kursą, 1936–1940 m. tęsė studijas Vytauto Didžiojo universiteto Teologijos-filosofijos fakulteto Teologijos skyriuje.

1940 m. birželio 16 d. J. Kanaverskis buvo įšventintas kunigu.

1940–1941 m. jis tarnavo vikaru Pumpėnų (Pasvalio r.) parapijoje.

Paskirtas 1941 m. gegužės 24 d., Antrojo pasaulinio karo pradžioje J. Kanaverskis kelis mėnesius buvo Anykščių Šv. Mato parapijos vikaras, talkino klebonui Juozapui Čepėnui.

Perkeltas 1941 m. rugsėjo 16 d., jis 1941–1942 m. buvo vikaras Zarasuose, kur iki 1942 m. pabaigos talkino klebonui Jonui Nagulevičiui.

1943–1944 m. jis tarnavo vikaru Pumpėnuose (Pasvalio r.), 1944–1948 m. jis buvo vikaras Pabiržėje (Biržų r.), Salose (Rokiškio r.) bei kitur.

1948 m. vasarą J. Kanaverskis buvo perkeltas iš Panevėžio į Kaišiadorių vyskupiją.

1948–1949 m. jis buvo Paparčių (Kaišiadorių r.) Šv. vyskupo Stanislovo ir Šv. Pranciškaus Asyžiečio parapijos klebonas. 1949 m. jo iniciatyva buvo suremontuota Paparčių bažnyčia.

1949 m. lapkritį atvykęs į Darsūniškį (Kaišiadorių r.), 1949–1964 m., iki gyvenimo pabaigos, J. Kanaverskis buvo Darsūniškio Švč. Mergelės Marijos Ėmimo į dangų parapijos klebonas.

Jis su parapijiečiais 1949–1950 m. atstatė 1944 m., karo pabaigoje, beveik sugriautą Darsūniškio bažnyčią, statytą XIX a. viduryje.

Mirė 1964 m. rugpjūčio 16 d. Darsūniškyje (Kaišiadorių r.). Palaidotas Darsūniškio bažnyčios šventoriuje šalia kitų kunigų. Kapą ženklina juodo šlifuoto akmens paminklas-kryžius, masyviame jo postamente iškaltas portretinis atvaizdas ir įrašas: "1912–1964 / Kun. Juozapas / Kanaverskis / Švenčiausioji Jėzaus Širdie, Tavimi / pasitikinčiųjų išganyme, / pasigailėk mūsų!".