Tėvai: Adomas Ražanskas (1842–1923) ir Veronika Banytė-Ražanskienė (1851 – iki 1923), abu iš Sterkiškio, – žemdirbiai valstiečiai. Broliai: Mykolas Ražanskas (1873–1961) – žemdirbys ūkininkas, Vincentas Ražanskas (1876–1886) – mirė vaikystėje, Kazimieras Ražanskas (1878–1879) – mirė kūdikystėje, Antanas Ražanskas (1880–1881) – mirė kūdikystėje, Jurgis Ražanskas (1882–1968) – žemdirbys, Povilas Ražanskas (1888–1975) ir Jonas Ražanskas (1892–?) – žemdirbys. Sūnėnai (brolio Jurgio sūnūs): Kazys Rožanskas (1919–2010) – visuomenininkas, švietėjas, ir Povilas Rožanskas (1928–2012) – inžinierius statybininkas.

1885 m. spalio 27 d. Debeikių bažnyčioje jį pakrikštijo klebonas Aleksandras Radavičius, krikštatėviai buvo valstiečiai Konstantinas Apeikis ir Viktorija Banienė, Mykolo Banio žmona.

Mokėsi Rokiškio muzikos mokykloje, kur, ugdomas Rudolfo Lymano (Rudolf Liehmann, 1855–1904), įgijo vargonininkavimo įgūdžių.

1904–1913 m. J. Rožanskas dirbo Dūkšto (Ignalinos r.) bažnyčioje vargonininku. Dūkšte jis pirmasis suorganizavo gerą bažnyčios chorą. 1913–1915 m. jis buvo Rumšiškių (Kaišiadorių r.) bažnyčios vargonininkas.

Persikėlęs 1915 m., 1915–1978 m., iki gyvenimo pabaigos, J. Rožanskas praleido Rozalime (Pakruojo r.), kur iki senatvės dirbo vargonininku.

1919–1929 m. jis buvo Rozalimo vidurinės mokyklos muzikos mokytojas, 1944–1947 m. dirbo Rozalimo progimnazijos muzikos mokytoju. Rozalimo mokykloje jis visuomet turėjo moksleivių chorą, išugdė būrį muzikai gabių mokinių, tarp jų – poetą ir publicistą Bronį Railą.

Toliau lavindamasis, J. Rožanskas lankė Juozo Naujalio organizuotus vargonininkų kursus, 1925–1928 m. baigė Stasio Šimkaus ketverių metų vasaros kursus muzikos ir dainavimo mokytojams Klaipėdos konservatorijoje.

1928 m. jis suorganizavo Rozalimo bažnyčios chorą, kuris per dešimtmetį tapo vienu stipriausių muzikinių kolektyvų Šiaurės Lietuvoje. Choras dalyvaudavo dainų šventėse Kaune, dainuodavo pavasarininkų kongresėliuose ir eucharistiniuose kongresuose Aukštaitijos miestuose. Su šiuo choru J. Rožanskas Rozalime pastatė operetes "Consilium Facultatis" bei "Adomas ir Ieva", surengė dainų koncertą ir 6 gegužines, dalyvavo visuose tautiniuose ir valstybiniuose minėjimuose.

Nuo 3-ojo dešimtmečio iki senatvės jis artimai bendravo su pedagogu ir rašytoju Matu Grigoniu, su Rozalimo chorais populiarindamas jo parašytas dainas ir giesmes.

Amžininkų prisiminimuose J. Rožanskas išliko kaip tvarkingas ir pasitempęs inteligentas, savo organizmą grūdinęs ir mėgęs gerą kavą.

Buvo vedęs. Liko našlys. Vaikai: Ona Rožanskaitė – vienuolė, Povilas Rožanskas (1908–1985) – pašto tarnautojas, 1947–1954 m. politinis kalinys, Juozas Ražanskas (Rožanskas, 1910–1972) – kunigas, Kazimieras Rožanskas (1911–1995) – inžinierius, 1945–1962 m. politinis kalinys ir tremtinys, Morta Rožanskaitė-Miknevičienė – laisvės gynėja.

Mirė 1978 m. Rozalime (Pakruojo r.). Palaidotas Rozalimo kapinėse.

J. Rožansko gyvenimas ir veikla pristatoma Kęstučio Mikeliūno publicistikos rinkinyje "Teko laimė pažinti..." (2013 m.).