Tėvai: Antanas Gūžys ir ? Gūžienė – žemdirbiai ūkininkai, turėję 17,5 hektaro žemės. Augo septynių vaikų šeimoje, buvo jauniausias vaikas. Brolis Jonas Gūžys – pedagogas, sesuo Ieva Gūžytė (1883–1952).

Vaikystėje daraktoriaus išmokytas skaityti lietuviškai, rusiškai ir lenkiškai, lankė Aukštosios Panemunės (Kauno r.) pradžios mokyklą, paskui 1898–1900 m. tęsė mokslą Lomžos gubernijoje (Lenkija), kur mokytoju dirbo brolis Jonas Gūžys. 1900–1902 m. mokėsi Veiverių (Kauno r.) dviklasėje mokykloje prie mokytojų seminarijos, 1902–1904 m. baigė Veiverių mokytojų seminariją.

1904–1905 m. J. Gūžys dirbo Dobrzyno (buvusi Petrakavo gubernija, Lenkija) pradžios mokykloje mokytoju, 1905 m. ten pat buvo Paskrzyno pradžios mokyklos mokytojas. Prasidėjus 1905 m. revoliuciniam judėjimui, jis aktyviai dalyvavo demonstracijose, remdamas lenkų siekį kalbėti ir vaikus mokyti tik lenkų kalba. Už tai jis buvo nubaustas pinigine bauda.

Atsiradus galimybei Lietuvoje dirbti lietuviams mokytojams, J. Gūžys gavo carinės Rusijos administracijos leidimą persikelti dirbti į tuometinę Kauno guberniją. 1906–1915 m. jis dirbo  Kupreliškio (Biržų r.) pradžios mokyklos mokytoju, tuščioje vietoje kurdamas šią naują lietuvišką mokyklą.

Prasidėjus Pirmajam pasauliniam karui, J. Gūžys su šeima pasitraukė į Rytus, gyveno Karačiovo mieste (Briansko sritis, Rusija), 1915–1917 m. dirbo raštininku, paskui vadovavo vietinės valdybos švietimo skyriui, 1917–1918 m. buvo liaudies ūkio tarybos sekretorius.

1918 m. J. Gūžys grįžo į Lietuvą, apsistojo pas gimines Vyžuonose (Utenos r.), 1918–1919 m. dirbo Vyžuonų valsčiaus komitete. 1919–1920 m. jis gyveno Kaune ir tarnavo Vidaus reikalų ministerijoje, buvo Komisijos Steigiamojo Seimo įstatymui paruošti reikalų vedėjas, paskui Savivaldybių departamento valsčių dalies vedėjas. Tuo pačiu metu jis lankė Jono Jablonskio vakarinius lietuvių kalbos kursus mokytojams, rengdamasis dirbti vidurinės mokyklos vadovu. 1919 m. rugpjūčio 18–19 dienomis jis buvo Lietuvos mokytojų suvažiavimo, surengto Kaune, delegatas, išrinktas Lietuvos mokytojų profesinės sąjungos kuriamojo biuro nariu, atidarė šio biuro būstinę Lietuvių mokykloje Kaune.

1920–1929 m. J. Gūžys gyveno Anykščiuose ir buvo pirmasis Anykščių vidurinės mokyklos vedėjas, paskui direktorius bei lietuvių kalbos ir geografijos mokytojas.

Jis buvo valdžios atsiųstas į 1920 m. rugpjūčio 27 d. įsteigtą mokyklą, organizavo karo nusiaubtų patalpų remontą, kvietė ir priėmė pirmuosius mokytojus: Anelę Kairytę, Vincą Petronį, Juozą Survilą ir kitus, rūpinosi mokymo priemonėmis. J. Gūžys pasižymėjo kaip geras organizatorius ir nuoširdus pedagogas. Jis pirmasis pradėjo mokyti Anykščių vaikus įsižiūrėti į gamtą, aplinką, ją puošti želdiniais. Mokyklos vadovas prisodino vaismedžių, įsigijo bičių.

J. Gūžys buvo šaulys, vadovavo Lietuvos šaulių sąjungos Anykščių skyriui, 1926–1929 m. buvo Anykščių smulkaus kredito draugijos banko valdybos narys, nuo 1923 m. – Centro Komiteto Kaune Klaipėdos kraštui remti Anykščių skyriaus prezidiumo sekretorius.

Jis buvo valdančiųjų partijų šalininkas, stengėsi joms įtikti, atvirai deklaravo savo krikščioniškas pozicijas ir nepalankumą radikalesniems įsitikinimams. J. Gūžiui rekomendavus, iš Anykščių mokyklos buvo atleistas su kapelionu Jonu Steponaičiu nesutaręs mokytojas Vincas Petronis, paskui turėjo pasitraukti ir Pranas Šulga.

Dėl konfliktų, kilusių tarp mokytojų, Švietimo ministerijos sprendimu Anykščių vidurinės mokyklos vadovas buvo iškeltas – išvyko į Šėtą (Kėdainių r.) ir 1929–1931 m. ten dirbo valstybinės progimnazijos direktoriumi.

Perkeltas 1931 m. rugpjūčio 1 d., 1931–1940 m. J. Gūžys buvo Radviliškio valstybinės (Geležinkelio) gimnazijos (dabar – Radviliškio Lizdeikos gimnazija) direktorius.

1940–1941 m. jis dirbo Šilalės progimnazijos direktoriumi. 1941 m. vasarą, bėgdamas nuo trėmimų, J. Gūžys slapstėsi Kaune. Prasidėjus vokiečių okupacijai, 1941–1942 m. jis vėl dirbo Šilalėje, 1942–1943 m. buvo Žemaičių Naumiesčio (Šilutės r.) progimnazijos direktorius, 1943–1944 m. – Kuršėnų (Šiaulių r.) progimnazijos direktorius.

1944 m. jis buvo vienas iš progimnazijos steigimo Varniuose (Telšių r.) iniciatorių, 1944–1945 m. dirbo pirmuoju šios progimnazijos (dabar – Varnių Motiejaus Valančiaus gimnazija) direktoriumi, būrė mokytojų kolektyvą, rengė patalpas.

1945–1948 m., iki gyvenimo pabaigos, jis buvo Plungės gimnazijos rusų kalbos ir matematikos mokytojas.

Už nuopelnus Lietuvai J. Gūžys buvo apdovanotas Lietuvos Didžiojo kunigaikščio Gedimino IV laipsnio ordinu (1938 m.) ir Lietuvos Nepriklausomybės 10-mečio medaliu (1928 m.).

Susituokė 1912 m. Kupreliškio (Biržų r.) bažnyčioje, žmona Eleonora Malinauskaitė-Gūžienė (1883–1970) – pedagogė darbų mokytoja, kunigo Domininko Tuskenio (1872–1947) sesuo, pedagogo ir rašytojo Mato Grigonio (1889–1971) žmonos teta. Vaikai: Aldona Gūžytė-Kantrimienė (1913–1987), Donatas Gūžys (1916–1984) – gydytojas ginekologas, Regina Gūžytė-Jakštienė (1921–2002) – pedagogė ir Birutė Elena Gūžytė-Navickienė (1923–2010).

Mirė 1948 m. vasario 14 (18) d. Plungėje. Buvo palaidotas Plungėje, vėliau jo palaikai perlaidoti Vilniaus Saltoniškių kapinėse šeimos kapavietėje (22 sektorius). Kapą ženklina trijų rausvo tašyto akmens paminklų kompozicija su iškaltais įrašais, centriniame paminkle iškaltas įrašas: "Eleonora / Gūžienė / 1883–1970", centrinėje kapavietėje ant horizontalaus rausvo akmens luito iškalta: "Gūžiai / Ieva 1883–1952 / Jurgis / 1885–1948".