Augo 6 vaikų šeimoje.

Jaunystėje uždarbiavo, kad galėtų mokytis gimnazijoje ir ją baigti. Mokėsi "Pavasario" gimnazijoje, 1928–1930 m. baigė filologijos kursus. 1930–1934 m. studijavo Kauno kunigų seminarijoje. Studijų metais uždarbiaudavo Kauno geležinkelio stotyje, kad galėtų pragyventi.

1934 m. gegužės 26 d. Kauno arkikatedroje P. Karvelis buvo įšventintas kunigu. Kartu buvo įšventinti Povilas Jankevičius, Alfonsas Kadžius ir kiti kunigai.

1934–1936 m. jis buvo vikaras Baisogaloje (Radviliškio r.), 1936–1937 m. – vikaras Kelmėje, 1937–1938 m. – vikaras Babtuose (Kauno r.), 1938–1939 m. – Kurtuvėnų (Šiaulių r.) parapijos vikaras, 1939–1940 m. – Vilkijos (Kauno r.) vikaras, nuo 1940 m. – vikaras Josvainiuose (Kėdainių r.), vėliau Baisogaloje (Radviliškio r.).

1945 m. birželio 18 d. už materialinę paramą laisvės gynėjams ir priklausymą pogrindinei organizacijai P. Karvelis Baisogaloje buvo suimtas, kalintas Kėdainiuose, nuo 1946 m. balandžio – Vilniuje. 1946 m. balandžio 13 d. Karo tribunolas nuteisė jį dešimčiai metų lagerio ir penkeriems metams tremties.

1946 m. gegužę P. Karvelis buvo išgabentas kalėti į Sevdvinlagą (Archangelsko sritis, Rusija), vėliau perkeltas į Taišeto (Irkutsko sritis, Sibiras, Rusija) lagerį, kur dirbo kūriku. Paleistas iš lagerio į tremtį  Krasnojarsko krašte, jis lankė lietuvių tremtinių šeimas, teikė sakramentus. Iš tremties jis buvo išleistas į laisvę 1956 m. balandį ir grįžo į Lietuvą.

Būdamas nusilpusios sveikatos, 1956–1959 m. P. Karvelis tarnavo Deltuvos (Ukmergės r.) Švč. Trejybės parapijos klebonu, 1959–1964 m. buvo Kurklių (Anykščių r.) Šv. Jurgio parapijos klebonas.

1964–1973 m. jis buvo Panoterių (Jonavos r.) Šv. Kryžiaus Atradimo parapijos klebonas, o 1973–1978 m., iki gyvenimo pabaigos, – Lyduokių (Ukmergės r.) Šv. arkangelo Mykolo parapijos klebonas.

Amžininkų buvo prisimenamas kaip muzikalus, gražų balsą turėjęs dvasininkas, per pamokslus nevengęs kalbėti ir politikos temomis, pasižymėjo pomėgiu tyliai medituoti tuščioje bažnyčioje.

Mirė 1978 m. gegužės 10 d. Lyduokiuose (Ukmergės r.). Palaidotas Lyduokių kapinėse (1 kvartalas 3 kapavietė). Kapą, kuriame palaidoti du kunigai, ženklina du akmeniniai paminklai-kryžiai su įtaisytomis portretinėmis nuotraukomis, juosia bendra metalinė tvorelė. Dešiniojo kryžiaus masyviame postamente iškalti įrašai: "A+A / Kun. Pranciškus / Karvelis / 1906–1978" ir "Gyvenau, / kad skelbčiau tiesą, / Miriau, / kad amžinai gyvenčiau".