Tėvai: Ignotas Žukas ir Anastazija Žukienė – valstiečiai žemdirbiai, turėjo 8 hektarus žemės. Augo šešių vaikų šeimoje. Broliai ir sesuo: Antanas Žukas (1892–?), Jonas Žukas (1896–?), Petras Žukas (1900–?), Pranciškus Žukas (1904–?), Veronika Žukaitė-? (1907–?).

Baigė dvimetę pradžios mokyklą. Toliau nebesimokė, nuo vaikystės dirbo tėvų ūkyje.

1911 m. išvykęs į Sankt Peterburgą (Rusija), ten 1911–1913 m. dirbo miesto ligoninėje darbininku-prižiūrėtoju, 1913–1914 m. buvo laivų statyklos darbininkas-gręžėjas.

Prasidėjus Pirmajam pasauliniam karui, 1914 m. spalį J. Žukas buvo mobilizuotas į karinę tarnybą carinės Rusijos kariuomenėje. 1914–1916 m. jis tarnavo 4-ajame Kaukazo pasienio korpuse eiliniu, dalyvavo kautynėse su Turkijos kariniais daliniais. Mūšyje jis buvo sužeistas ir 1916 m. rugpjūčio 27 d. demobilizuotas dėl sveikatos.

1916–1917 m. J. Žukas gyveno pas brolius Dvinske (dabar – Daugpilis, Latvija). Vokiečiams užėmus miestą, jis buvo mobilizuotas į darbo tarnybą ir 1917–1918 m. dirbo įvairiose Lietuvos ir Latvijos vietose, kur okupacinė vokiečių valdžia tiesė kelius. 1918 m. lapkritį paleistas, jis grįžo į Kalnuočius pas tėvus ir toliau dirbo ūkyje.

1919 m. balandžio 19 d. J. Žukas išėjo savanoriu į Panevėžio batalioną – vėliau 4-ąjį pėstininkų Lietuvos Karaliaus Mindaugo pulką, buvo paskirtas į žvalgų komandą eiliniu. 1919 m. rugsėjo 20 d. jis buvo perkeltas į 6-ąją kuopą, bet netrukus paliktas raitųjų žvalgų komandoje, dalinyje buvo atsakingas už arklių aprūpinimą pašaru.

1919 m. gegužę jis pasižymėjo mūšiuose su bolševikais ties Panevėžiu, kai sužeistas išvengė nelaisvės ir pabėgo. 1919 m. rugsėjo 30 d. už narsą bolševikų fronte J. Žukas buvo apdovanotas 1-ojo laipsnio Kryžiumi "Už Tėvynę".

1919 m. rugpjūčio 30 d. mūšiuose su bolševikais ties Daugpiliu, kitų kareivių padedamas, J. Žukas perplaukė Dauguvą į bolševikų pusę ir ten nutraukė priešo paramą besikaunantiems jo daliniams. 1920 m. sausio 29 d. už narsą ir pasiaukojimą mūšiuose su bolševiais jis buvo apdovanotas 2-ojo laipsnio Vyties Kryžiumi.

Nuo 1920 m. sausio 1 d. J. Žukas buvo pakeltas į jaunesniuosius puskarininkius. 1920 m. vasario 6 d. jis buvo perkeltas tęsti tarnybą į pradėtą formuoti 1-ąjį pasienio pulką, saugojusį Lietuvos ir Vokietijos sieną. Ten jis buvo vachmistras (sargybos viršininkas), vyresnysis puskarininkis, iki 1924 m. sausio 8 d., kol valstybės sienų apsauga buvo pertvarkyta, ją perėmė Pasienio policija. Perkeltas Vilkaviškio apskrities viršininko žinion, jis dar keturis mėnesius tęsė tarnybą pasienyje ir 1924 m. balandžio 14 d. ją baigė kaip atsargos viršila.

1924–1932 m. jis gyveno Kavarske (Anykščių r.) pas brolius ir dirbo įvairius darbus. Apie 1926 m. jis buvo išvykęs ir gyveno Pietryčių Lietuvoje, ten uždarbiaudamas.

Gavęs valstybės tarnybą, 1932–1936 m. J. Žukas dirbo Kazlų Rūdoje valstybės monopolio (alkoholio) parduotuvėje pardavėju, 1936–1940 m. buvo Pilviškių (Vilkaviškio r.) valstybės monopolio parduotuvės pardavėjas, gyveno Vaitų kaime (Vilkaviškio r.).

Pirmosios sovietinės okupacijos metais 1940–1941 m. jis dirbo Pilviškių valstybinėje parduotuvėje pardavėju, kol 1941 m. gegužę iš darbo buvo atleistas.

Nepriklausomoje Lietuvoje J. Žukas buvo šaulys, Lietuvos šaulių sąjungos narys. Gyvendamas Kavarske, jis buvo aktyvus Kavarsko šaulių organizacijos narys, vėliau dalyvavo Kazlų Rūdos ir Pilviškių šaulių veikloje. Jis  buvo Pilviškių šaulių būrio vadas, 1939–1940 m. – 5-osios Pilviškių kuopos vadas. Į šaulių organizaciją jis subūrė apie 70 naujų narių, organizavo Pilviškių šaulių namų statybą, surinko tam skirtas lėšas.

Nuo 1930 m. jis buvo ir Lietuvos tautininkų sąjungos narys. 1938 m. lapkritį jis dalyvavo Vyties Kryžiaus kavalierių suvažiavime.

J. Žukas buvo apdovanotas dviem Vyties Kryžiais (1919 ir 1920 m.), Didžiojo Lietuvos kunigaikščio Gedimino 3-ojo laipsnio medaliu (1939 m.), Nepriklausomybės medaliu (1928 m.), Savanorio medaliu (1931 m.), Šaulių žvaigžde (1938 m.).

Susituokė 1920 m., žmona Gerta Patmaitė-Žukienė-Ananjeva (1895–?) – 1941–1942 m. tremtinė Bijske (Altajaus kr., Rusija), 1942–1956 m. – Oliokminsko rajone (Jakutija, Rusija), į Lietuvą nebegrįžusi. Vaikų neturėjo.

1941 m. birželio 14 d. J. Žukas ir jo žmona namuose buvo areštuoti, išvežti į Vilkaviškio geležinkelio stotį, ten atskirti vienas nuo kito ir skirtingais ešelonais išgabenti į Sibirą (Rusija).

J. Žukas 1941 m. vasarą buvo įkalintas Rešotų lageryje (Žemutinio Ingašo r., Krasnojarsko kr., Rusija), ten oficialiai buvo suimtas, 1942 m. pradžioje tardomas apie Šaulių sąjungos struktūrą ir veiklą, šios sąjungos  įtaką patriotiniam jaunimo auklėjimui. Kaltinamoji išvada su rekomenduojama mirties bausme sušaudant buvo parengta 1942 m. balandžio 25 d., jau po kaltinamojo mirties.

Mirė 1942 m. balandžio 5 d. Rešotų lageryje (Žemutinio Ingašo r., Krasnojarsko kr., Rusija) nuo išsekimo ir tuberkuliozės. Buvo palaidotas bendroje lagerio kalinių kapavietėje, palaidojimo vieta nežinoma.

Dukart Vyties Kryžiaus kavalieriaus J. Žuko gyvenimas ir žygdarbiai įamžinti Viliaus Kavaliausko enciklopediniame žinyne "Lietuvos karžygiai : Vyties Kryžiaus kavalieriai (1918–1940)" 6-ajame tome (2014 m.).