Tėvai: Martynas Taraškevičius – amatininkas kalvis, miškininkas, ir Teresė Sabulytė-Taraškevičienė.

Baigė pradžios mokyklą.

1919 m. gegužės 20 d. J. Taraškevičius išėjo savanoriu į Lietuvos kariuomenę, tapo 1-ojo pėstininkų pulko 2-osios kuopos eiliniu, vėliau buvo 1-ojo pėstininkų Didžiojo Lietuvos Kunigaikščio Gedimino pulko 2-osios kuopos grandinis.

1919–1921 m. jis dalyvavo kovose prieš bolševikus, bermontininkus ir lenkus, 1920 m. spalio 18 d. pasižymėjo kautynėse su lenkais ties Kuronių kaimu (Trakų r.).

1921 m. spalio 29 d. jis buvo demobilizuotas iš kariuomenės, turėdamas eilinio karinį laipsnį.

J. Taraškevičius kaip savanoris gavo 9 hektarus žemės Lyduokių (Ukmergės r.) dvaro teritorijoje, ten įsikūrė ir ūkininkavo. Naujakurių savanorių kaimas buvo pavadintas Kūrėjų kaimo vardu.

Gavęs  valstybės tarnybą, vėliau iki Antrojo pasaulinio karo ir karo metais jis dirbo Žemaitkiemio (Ukmergės r.) girininkijoje eiguliu.

1923 m. liepą už Nepriklausomybės kovose parodytą narsą J. Taraškevičius buvo apdovanotas  1-ojo laipsnio Vyties Kryžiumi.

Nuo 1928 m. jis  buvo šaulys, Lietuvos šaulių sąjungos VI rinktinės 15-ojo Lyduokių šaulių būrio narys.

1944 m. rugsėjo 27 d. J. Taraškevičius NKVD pareigūnų buvo suimtas kaip partizanų rėmėjas, kalintas Ukmergės kalėjime ir apkaltintas bendradarbiavimu su vokiečių žvalgyba karo metais. Nors tardytojai tokios kaltės ir neįrodė, 1945 m. sausio 21 d. Ukmergėje posėdžiavęs NKVD karo tribunolas nuteisė jį (kaip ir kitus Žemaitkiemio apylinkių eigulius) 8 metams lagerių ir 3 metams tremties, konfiskuotas jo turtas. Nuo 1945 m. kovo 13 d. jis buvo perkeltas į kalėjimą Vilniuje, paskui išvežtas į Uchtižemlagą Komijoje (Rusija), kur buvo kalinamas 1945–1947 m., iki gyvenimo pabaigos.

J. Taraškevičius buvo apdovanotas 1-ojo laipsnio Vyties Kryžiumi (1923 m.), Nepriklausomybės medaliu (1928 m.), Savanorio medaliu (Nr. 3640, 1929 m.).

Buvo vedęs, žmona Elena Adamonytė-Taraškevičienė (1905–1968). Dukterys: Filomena Taraškevičiūtė-Vaskelienė (g. 1932 m.) ir Roma Taraškevičiūtė-Mackelienė (1936–2006).

Mirė 1947 m. rugpjūčio 8 d. Uchtižemlage (Komija, Rusija).

1961 m. sausio 14 d. Lietuvos SSR aukščiausiojo teismo kolegija panaikino karo tribunolo nuosprendį ir išteisino J. Taraškevičių, jo veiksmuose nusikaltimo sudėties neradusi.

Vyties Kryžiaus kavalieriaus J. Taraškevičiaus gyvenimas ir veikla įamžinti Viliaus Kavaliausko enciklopediniame žinyne "Lietuvos karžygiai : Vyties Kryžiaus kavalieriai (1918–1940)" 6-ajame tome (2014 m.).