Tėvai: Dominykas Gražys (1888–?) iš Ramaškonių ir Ona Lukoševičiūtė-Gražienė (1893–?) iš Pasmodų – valstiečiai žemdirbiai.

Pokario metais J. Gražys išėjo partizanauti, buvo Vytauto apygardos Liūto rinktinės Perkūno būrio partizanas, nuo 1948 m. spalio 1 d. – Algimanto apygardos Šarūno rinktinės Jovaro kuopos vadas.

Žuvo 1949 m. vasario 13 d. Šiaulių kaime (Anykščių r.) – buvo išduotas su dar keturiais partizanais J. Stulpino sodyboje  ir sušaudytas, kartu žuvo Jovaro kuopos vado pavaduotojas Petras Mameniškis-Girėnas ir partizanas Jonas Žąsinas-Vanagas. Palaidotas Andrioniškio (Anykščių r.) kapinėse.