Tėvai: Juozapas Karvelis (1872–1936) iš Elmininkų – malūnininkas ir Anelė Šližytė-Karvelienė (1886–?) iš Niūronių. Seserys: Anelė Karvelytė, Stanislava Karvelytė (1914–1984) – vienuolė ir Eleonora Karvelytė (1916–2007) – pedagogė užsienio kalbų dėstytoja, vienuolė. Pusbroliai: (tėvo brolio Jurgio sūnus) Jonas Karvelis (1877–1980) – verslininkas energetikas, (motinos sesers Rozalijos sūnus) Balys Puodžiūnas (1913–1943) – kariškis, laisvės gynėjas, (motinos brolio Jurgio sūnus) Vladislovas Balys Šližys (1924–1998) – dailininkas tapytojas, (motinos brolio Antano sūnus) Vladas Sližys (1912–2002) – mokslininkas inžinierius technologas.

Baigė Svėdasų (Anykščių r.) keturių klasių pradžios mokyklą, 1922–1926 m. mokėsi Užpalių (Utenos r.) progimnazijoje, 1926–1931 m. – Deltuvos (Ukmergės r.) žemesniosios technikos mokyklos Mechanikos skyriuje. Mokykliniais metais pasižymėjo gabumais dailei.

1931–1938 m. B. Karvelis dirbo Kaune, Plentų ir vandens kelių valdybos centrinio garažo mechaniku.

Dirbdamas 1935 m. jis baigė Nidos sklandymo mokyklą, 1936 m. – Lietuvos aeroklubo lakūnų mokyklą, įgijo civilinės aviacijos lakūno išsilavinimą.

1936–1938 m. B. Karvelis laisvu nuo darbo laiku suprojektavo ir pats pagamino pirmąjį lietuvišką sklandytuvą BK 1 "Vanagas", už kurį jam buvo suteiktas konstruktoriaus vardas ir skirta 500 litų premija.

1938–1940 m. jis dirbo Orinio susisiekimo direkcijoje dirbtuvių vedėju.

1939 m. Aukštagiryje, šalia Vilniaus, įsteigus S. Dariaus ir S. Girėno sklandymo mokyklą, B. Karvelis 1939–1940 m. trumpai buvo antrasis šios mokyklos viršininkas ir vyriausiasis instruktorius, paskui – instruktorius. Čia jis baigė statyti ir 1941 m. pavasarį išbandė geros kokybės sklandytuvą BK 2, kuris tų metų vasarą, Lietuvą okupavus vokiečiams, dingo.

1941 m. jis buvo išsiųstas dirbti į Rygą (Latvija), kur buvo kuriamas aviacijos įmonės "Aeroflot" skyrius, ten pradėjo dirbti aviatechniku. Prasidėjus Antrajam pasauliniam karui, jis buvo išgabentas į Velikije Luki, kur dirbo mechaniku sanitarinių lėktuvų aerodrome, vėliau perkeltas į Irkutską, o 1942–1945 m. B. Karvelis dirbo Jakutsko (Rusija) Civilinio oro susisiekimo remonto dirbtuvėse meistru, taip pat skraidė keleiviniais lėktuvais JAK kaip borto mechanikas.

Už bendravimą su lietuviais tremtiniais 1945 m. gegužės 22 d. B. Karvelis buvo suimtas, nuteistas 5 metus kalėti ir dar 5 metams tremties. Kaip politinis kalinys jis buvo įkalintas Sibire (Rusija), 1945–1950 m. dirbo aukso kasyklose, vėliau mechaninėse dirbtuvėse. 1950–1954 m. jis ten gyveno kaip tremtinys.

1954 m. grįžęs į Lietuvą, B. Karvelis 1954–1958 m. dirbo Kauno traktorių motorų remonto gamykloje šaltkalviu. Tuo pačiu metu jis iškart ėmėsi kūrybinio darbo ir Kaune suprojektavo naują sklandytuvą BK 3 (nebuvo pagamintas) bei aukštosios klasės sklandytuvą BK 4 "Kaunas" (1957 m.). Juo sklandytojas Vytautas Dovydaitis 1958 m. atliko pirmąjį pokario metais perskridimą ir įveikė 132 km – nuo Pociūnų (Prienų r.) iki Anykščių.

1958–1969 m. B. Karvelis dirbo Vilniuje, Projektavimo-konstravimo biuro eksperimentinėje gamykloje konstruktoriumi, kūrė prietaisus ir įrankius staklių pramonei. Laisvu laiku B. Karvelis sukūrė standartinės klasės sklandytuvą BK 6 "Neringa" (1959 m.), kuris nuo 1960 m. buvo gaminamas serijomis.

1969 m. Prienuose įkūrus sportinės aviacijos gamyklą, B. Karvelis 1969–1982 m. dirbo šioje gamykloje vyriausiuoju konstruktoriumi, kol išėjo į pensiją. Šioje įmonėje, vadovaujant konstruktoriui B. Karveliui, 1972 m. buvo pradėti gaminti sklandytuvai iš stikloplasčio. 1972 m. gruodžio 8 d. į padangę pakilo pirmasis Sovietų Sąjungoje plastikinis sklandytuvas BK 7 "Lietuva".

Senatvėje įvaldęs kompiuterinę projektavimo techniką, 1986–1992 m. jis sukūrė apie 100 sparnų profilių.

Nuo 1975 m. B. Karvelio sklandytuvai BK 7A gaminami serijomis, nuo 1985 m. jų gamyba perkelta į Pociūnus (Prienų r.).

B. Karveliui buvo suteiktas Lietuvos SSR nusipelniusio konstruktoriaus garbės vardas (1987 m.). Jis apdovanotas Dariaus ir Girėno medaliu (1993 m.), Didžiojo Lietuvos kunigaikščio Gedimino ordino medaliu (1995 m.). Jis buvo Lietuvos aeroklubo garbės narys.

Buvo vedęs, žmona Anelė Vilūnaitė-Karvelienė (1924–2010) iš Utenos r. Vaikai: Vidas Karvelis (g. 1961 m.) – vienuolis jėzuitas, psichologas, Ramunė Karvelytė (g. 1962 m.). 

Mirė 1996 m. rugsėjo 7 d. Vilniuje. Palaidotas Vilniaus Rokantiškių kapinėse (58 sektorius, 1 eilė). Kapą ženklina tipinė aviatorių horizontali šlifuoto akmens elementų paminklinė kompozicija – du rausvi sparnai, kuriuose iškalti įrašai: "Anelė Karvelienė / 1924.02.26–2010.02.01" ir "Balys Karvelis / 1911.01.23–1996.09.07 / Sklandytuvų / konstruktorius / Lakūnas".

Gimtajame B. Karvelio kaime Žaliojoje pastatytas paminklinis akmuo su memorialine lenta jam atminti (autorius – Algimantas Puolis, 2018 m.).

B. Karvelio gyvenimas ir veikla išsamiai pristatomi kraštotyros monografijoje "Vyžuonos : kraštas ir žmonės" (sudarė Algirdas Vyžintas, 2006 m.).