Gimimo data pagal naująjį kalendorių – 1897 m. spalio 8 d.

Tėvai: Jonas Ruokis ir Marcelė Aidukytė-Ruokienė – lietuviai emigrantai Rusijoje. Augo septynių vaikų šeimoje lietuvių kolonijoje Feliksavo viensėdyje.

Mokėsi kaimo ir parapijos pradžios mokyklose, 1916 m. baigė Vitebsko (Baltarusija) vidurinę mokyklą.

1916–1918 m. J. Ruokis buvo mobilizuotas į carinės Rusijos kariuomenę ir joje tarnavo tol, kol po bolševikinio perversmo buvo iš tarnybos paleistas.

1918 m. mėgino stoti į Sankt Peterburgo (Rusija) kunigų seminariją, bet dėl revoliucinės suirutės studijos joje neprasidėjo. 1918–1919 m. jis studijavo Minsko (Baltarusija) kunigų seminarijoje, kol ir ši seminarija buvo uždaryta, o studijos nutrauktos. 1919–1921 m. jis gyveno gimtinėje Babinovičiuose, kur 1920 m. atidarė lietuvių pradžios mokyklą ir 1920–1921 m. joje dirbo mokytoju.

1921 m. rudenį J. Ruokis persikėlė į Lietuvą, kur tęsė kunigystės studijas ir 1923–1928 m. baigė Kauno kunigų seminariją.

1928 m. kovo 24 d. Kauno arkikatedroje bazilikoje arkivyskupas metropolitas Juozapas Skvireckas įšventino J. Ruokį kunigu. Kartu buvo įšventintas Bronislovas Masiokas ir kiti kunigai.

Paskirtas 1928 m. pavasarį, balandžio–liepos mėnesiais J. Ruokis tarnavo Kurklių (Anykščių r.) Šv. Jurgio parapijoje vikaru, talkindamas klebonui Antanui Tvarijanavičiui. Jis tuoj pat atgaivino Kurkliuose Katalikiškojo jaunimo organizacijos "Pavasaris" kuopą, 1928 m. birželio 17 d., talkinamas Apolonijos Sereikytės, pirmąkart Kurkliuose surengė Šv. Aloyzo šventę ir subūrė 120 jaunųjų pavasarininkų, organizavo 9 kaimų kuopeles. Kurklių pavasarininkų kuopa jam suteikė garbės nario vardą.

Perkeltas 1928 m. liepą, 1928–1929 m. jis buvo Joniškio vikaras. Išvykęs 1929 m. sausį, 1929–1930 m. jis tarnavo Deltuvos (Ukmergės r.) vikaru.

1930 m. rugsėjį J. Ruokis grįžo į Kurklius ir 1930–1931 m. vėl buvo Kurklių vikaras, tęsdamas aktyvią veiklą su katalikiškuoju jaunimu.

1931 m. sausį jis buvo laikinai perkeltas vikaru į Balninkus (Molėtų r.), netrukus paskirtas ten tarnauti nuolat ir 1931–1933 m. buvo Balninkų vikaras.  1933–1936 m. jis tarnavo vikaru Ukmergėje, buvo tikybos mokytojas.

Paskirtas 1936 m. balandį, 1936–1939 m. J. Ruokis buvo Saudininkų (dabar – Maironiai, Kelmės r.) Švč. Mergelės Marijos bažnyčios kuratas, kunigas filialistas, išauginęs šią filiją iki savarankiškos parapijos. Saudininkuose jis sutvarkė steigiamos parapijos pastatus, įstatė bažnyčioje naujas duris ir langus, papildė apeigų inventorių. Jis suaktyvino katalikiškų organizacijų veiklą, aktyviai skatino skaityti katalikiškus laikraščius.

Perkeltas 1939 m. lapkritį, porą mėnesių jis tarnavo Butkiškės (Raseinių r.) Šv. Jono Krikštytojo parapijos administratoriumi.

Atvykęs 1940 m. sausį, 1940–1944 m. J. Ruokis buvo Vadžgirio (Jurbarko r.) Šv. Juozapo parapijos administratorius. Ten jis pasižymėjo kaip blaivybės šalininkas ir sovietinės valdžios priešininkas. Artėjant antrajai sovietinei okupacijai pajutęs neišvengiamas represijas, jis 1944 m. birželį paliko parapiją ir pasitraukė į Vakarus.

1944–1950 m. J. Ruokis gyveno Vokietijoje ir aptarnavo Liubeko (Lubeck) bei Hanoverio (Hannover) lietuvių karo pabėgėlių stovyklas, buvo stovyklų kapelionas, dirbo Hanoverio mokyklose tikybos mokytoju. Hanoveryje jis sutelkė ir globojo ateitininkus sendraugius, globojo ir studentus, studijavusius veterinariją ir inžineriją.

1950 m. lapkritį jis persikėlė į JAV ir ten pasiliko iki gyvenimo pabaigos.

1950–1971 m. J. Ruokis buvo Albanio (Albany, Niujorko valstija) vyskupijos parapijų dvasininkas. 1950–1955 m. jis tarnavo Moriso (Morris) parapijoje vikaru, nuo 1955 m. buvo Litl Folso (Little Falls) Šv. Juozapo parapijos, kuriai priklausė italai katalikai, vikaras, kol 1971 m. išėjo į pensiją.

1972–1981 m. jis gyveno Voterberio (Waterbury, Konektikuto valstija) Šv. Juozapo parapijoje kaip altarista, talkindamas pastoracijoje. 1978 m. čia jis paminėjo kunigystės 50-metį, buvo kunigas jubiliatas.

Susilpnėjus sveikatai, nuo 1981 m. spalio 1 d. senatvę J. Ruokis praleido Putnamo (Konektikuto valstija) Palaimintojo Jurgio Matulaičio slaugos namuose, globojamas Nekaltojo Prasidėjimo Švč. Mergelės Marijos seserų vienuolyno, kuriam vadovavo Apolonija Sereikytė – sesuo Marija Augusta, vienuolių. Kiek atsigavęs, jis talkindavo šių globos namų kapelionui.

J. Ruokis priklausė Lietuvių kunigų vienybės draugijai, buvo Lietuvių bendruomenės narys. Jis buvo katalikiškos JAV lietuvių spaudos ("Aidų") rėmėjas, parėmė 1 tūkst. JAV dolerių auka Broniaus Kvyklio žinyno "Lietuvos bažnyčios" leidybą, nuolat rėmė kitas organizacijas ir fondus, kaupė lietuviškus leidinius.

Amžininkų prisiminimuose jis liko kaip labai svetingas ir dosnus dvasininkas, šelpęs gimines ir Lietuvoje likusius kunigus. Laisvalaikiu mėgo keliauti, aplankė Šventąją Žemę ir daugumą Europos šalių, keliaudavo po Ameriką.

Mirė 1987 m. kovo 25 d. Putname (Konektikuto valstija, JAV). Palaidotas Putnamo Dangaus vartų lietuvių kapinėse.