Tėvai: Mykolas Gražys (1836–1908) iš Ataugų ir Rozalija Tutkutė-Gražienė (1834–1887) iš Anykščių – valstiečiai žemdirbiai. Broliai ir seserys: Mykolas Gražys (1867–1882) – mirė paauglystėje, Justinas Gražys (1868–?), Juozapas Emilijonas Gražys (1870–?), Antanas Gražys (1872–?), Eleonora Gražytė-Tamkevičienė (1874–?) ir Anelė Gražytė (1877–?).

Motinai anksti mirus, o tėvui 1890 m. vedus Apoloniją Pukenytę-Gražienę (1843–?) iš Liudiškių, augo su pamote.

1876 m. sausio 25 d. Andrioniškio bažnyčioje jį pakrikštijo šios bažnyčios kuratas Pranciškus Šadzevičius, krikštatėviais buvo valstiečiai Justinas Mikalajūnas ir Ona Černiauskaitė.

1910–1915 m. studijavo Žemaičių vyskupijos kunigų seminarijoje Kaune. Pirmojo pasaulinio karo pradžioje perkėlus seminariją į Vašuokėnų dvarą (Anykščių r.), 1915 m. gegužės 15 d. Vašuokėnuose buvo įšventintas diakonu.

1915 m. rugsėjo–gruodžio mėnesiais P. Gražys tarnavo Kavarsko (Anykščių r.) Šv. Jono Krikštytojo parapijoje diakonu.

Perkeltas 1916 m. sausį, 1916–1917 m., iki balandžio pabaigos, jis buvo diakonas Vadokliuose (Panevėžio r.).

1917 m. pavasarį P. Gražys buvo įšventintas kunigu.

1917–1920 m. jis buvo Eržvilko (Jurbarko r.) parapijos vikaras. 1920–1922 m. jis tarnavo Saudininkų (dabar Maironiai, Kelmės r.) Švč. Mergelės Marijos bažnyčios kuratu, buvo Lyduvėnų parapijos kunigas filialistas.

Perkeltas 1922 m. pabaigoje, 1922–1923 m., iki gyvenimo pabaigos, P. Gražys buvo Šventybrasčio (Kėdainių r.) Kristaus Atsimainymo bažnyčios kuratas, Apytalaukio parapijos kunigas filialistas.

Mirė 1923 m. birželio 16 d. Šventybrastyje (Kėdainių r.). Palaidotas Šventybrasčio kapinėse.