Tėvas Mykolas Karvelis – ūkininkas, šeima turėjo 13 ha žemės.

J. Karvelis buvo šaulys.

Pokario metais jis išėjo partizanauti, buvo Vytauto apygardos Liūto rinktinės Beržo kuopos Vyčio būrio vadas Šilas.

Žuvo 1949 m. rugsėjo 28 d. Papiškių kaime (Utenos r.) – buvo nukautas kartu su kitais šešiais partizanais, MGB vidaus kariuomenės 137-ojo šaulių pulko kareiviams kartu su vietiniais stribais apsupus išduotą Liūto rinktinės štabą.

Kartu žuvo Liūto rinktinės vadas Jonas Morkūnas-Viesulas, Liūto rinktinės Ūkio skyriaus viršininkas Balys Jakštonis-Trockis, Ąžuolo kuopos vadas Vladas Patumsis-Aukštaitis, Erškėčio kuopos Viesulo būrio vadas Silvestras Urbonas-Lapinas ir šio būrio partizanai Povilas Bražionis-Aidas, Antanas Polevičius-Zomeris ir Juozas Šutinys-Paleckis, išsigelbėjo tik Mykolas Urbonas-Liepa.

Palaikai buvo užkasti Utenoje prie Dauniškio ežero. Palaikai buvo užkasti Utenoje, Dauniškio ežero pakrantėje (dabar – Utenos miesto partizaninio judėjimo ir rezistencijos kapinės). Kapavietė nepaženklinta.