Baigė Kauno Žemaičių kunigų seminariją.

1868 m. buvo įšventintas kunigu.

Atvykęs 1868 m. liepą, 1868–1872 m. J. Račkauskas tarnavo Anykščių vikaru, talkino parapijos administratoriui Simonui Gutauskui. Jis mokė Anykščių vaikus lietuviško rašto, menkino rusiškos valdinės mokyklos įtaką, slėpė ir platino draudžiamą lietuvišką spaudą.

Už tokią antivalstybinę poziciją kunigas 1872 m. gegužę buvo iškeldintas iš Anykščių ir nuo 1872 m. tarnavo vikaru Švenčionyse.

1882 m. J. Račkauskas buvo penkeriems metams ištremtas į Vologdos guberniją (Rusija), kur 1882–1887 m. gyveno griežtai prižiūrimas policijos.

1887–1890 m. jis tarnavo Bielsko dekanate (dabar – Baltarusija), kol 1890 m. galėjo grįžti į Lietuvą, tačiau Rusijos administracija nepatvirtino jo Vilniaus mokyklų kapelionu.

1890–1892 m. J. Račkauskas buvo Vilniaus Visų Šventųjų bažnyčios vikaras, 1892–1895 m. – Vilniaus Aušros Vartų bažnyčios vikaras. Dėl lietuviškos veiklos jis buvo iškeltas iš Vilniaus ir 1895–1897 m. tarnavo Šešuolių (Ukmergės r.) Šv. Juozapo parapijos klebonu.

Nuo 1897 m. iki gyvenimo pabaigos J. Račkauskas tarnavo Vilniuje, buvo Vilniaus Labdarių draugijos koplyčios kapelionas. Jis nuolat buvo įtarinėjamas ryšiais su Vilniaus lietuviais agitatoriais prieš carinę valdžią ir stačiatikystę, sekamas ir skundžiamas.

Mirė po 1912 m. Vilniuje.