Tėvai: Mykolas Gražys (1836–1908) iš Ataugų ir Rozalija Tutkutė-Gražienė (1834–1887) iš Anykščių – valstiečiai žemdirbiai. Broliai ir seserys: Mykolas Gražys (1867–1882) – mirė paauglystėje, Justinas Gražys (1868–?), Juozapas Emilijonas Gražys (1870–?), Antanas Gražys (1872–?), Eleonora Gražytė-Tamkevičienė (1874–?) ir Anelė Gražytė (1877–?).

1876 m. sausio 25 d. Andrioniškio bažnyčioje jį pakrikštijo šios bažnyčios kuratas Pranciškus Šadzevičius, krikštatėviais buvo valstiečiai Justinas Mikalajūnas ir Ona Černiauskaitė.

Motinai anksti mirus, o tėvui 1890 m. vedus Apoloniją Pukenytę-Gražienę (1843–?) iš Liudiškių, augo su pamote, kiek laiko gyveno pas brolį Antaną ir seserį Eleonorą Pasusienyje (Anykščių r.). 

1910–1915 m. studijavo Žemaičių vyskupijos kunigų seminarijoje Kaune. Pirmojo pasaulinio karo pradžioje perkėlus seminariją į Vašuokėnų dvarą (Anykščių r.), 1915 m. gegužės 15 d. Vašuokėnuose buvo įšventintas diakonu.

1915 m. rugsėjo–gruodžio mėnesiais P. Gražys tarnavo Kavarsko (Anykščių r.) Šv. Jono Krikštytojo parapijoje diakonu.

Perkeltas 1916 m. sausį, 1916–1917 m., iki balandžio pabaigos, jis buvo diakonas Vadokliuose (Panevėžio r.).

1917 m. pavasarį P. Gražys buvo įšventintas kunigu.

1917–1920 m. jis buvo Eržvilko (Jurbarko r.) parapijos vikaras. 1920–1922 m. jis tarnavo Saudininkų (dabar Maironiai, Kelmės r.) Švč. Mergelės Marijos bažnyčios kuratu, buvo Lyduvėnų parapijos kunigas filialistas.

Perkeltas 1922 m. pabaigoje, 1922–1923 m., iki gyvenimo pabaigos, P. Gražys buvo Šventybrasčio (Kėdainių r.) Kristaus Atsimainymo bažnyčios kuratas, Apytalaukio parapijos kunigas filialistas.

Bendraudamas su Pasusienio kaimo jaunimu, P. Gražys savo pavyzdžiu įkvėpė kunigystei Eduardą Simašką.

Mirė 1923 m. birželio 16 d. Šventybrastyje (Kėdainių r.). Palaidotas Šventybrasčio kapinėse.