Tėvai: Jurgis Tvaska (apie 1884 – 1943) ir Kotryna Laurenčikaitė-Tvaskienė (1891–?). Augo trijų vaikų šeimoje, seserys Genovaitė Tvaskaitė-? (1920–?) ir Valerija Tvaskaitė-Simonavičienė (g. 1930 m.).

Mokėsi Levaniškių (Anykščių r.) ir Raguvos (Panevėžio r.) pradžios mokyklose, baigė šešis skyrius. 1944 m. baigė Panevėžio gimnaziją. Nuo vaikystės rašė eilėraščius.

K. Tvaska 1944 m. vasarą ruošėsi stoti į Vilniaus universitetą studijuoti lietuvių kalbą ir literatūrą, tačiau tuo metu sovietų valdžios paskelbta mobilizacija į kariuomenę privertė tokių planų atsisakyti. Nusprendęs netarnauti Raudonojoje armijoje, 1944 m. rudenį jis išėjo pas partizanus, įstojo į laisvės kovotojų gretas Jono Baltušniko-Vienuolio būryje, gavo Rugelio slapyvardį.

1944–1949 m. K. Tvaska-Rugelis daugiausia laiko praleisdavo bunkeryje, kur rašė partizanų dienoraštį ar tvarkė archyvą, kūrė eilėraščius, dažnai fotografuodavo laisvės gynėjus.

Atsisakęs artimųjų siūlymo legalizuotis ir pasitraukti iš partizaninės kovos, 1949 m. balandžio 20 d. K. Tvaska-Rugelis buvo paskirtas Vyčio apygardos štabo viršininku ir Krištaponio rinktinės vado pavaduotoju. Jis tapo pirmuoju Vyčio apygardos laikraščio "Lietuva brangi" redaktoriumi.

Jis mėgo dainuoti, pasižymėjo sąžiningumu ir nuoširdumu.

1949 m. suimtas ir tardomas buvęs partizanas V. Bareika, tuomet jau gyvenęs legaliai, tačiau dar palaikęs ryšį su buvusiais bendražygiais, išdavė Šilų miške (Panevėžio r.) buvusį rinktinės štabo bunkerį, kuriame tuo metu gyveno ir K. Tvaska-Rugelis. Liepos pabaigoje MGB vidaus kariuomenės 25-ojo šaulių pulko kareiviai surengė karinę operaciją, siekdami sunaikinti laisvės gynėjų slaptavietę.

Žuvo 1949 m. liepos 31 d. Šilų miške (Panevėžio r.) – apsuptas kariuomenės, susisprogdino bunkeryje, kartu žuvo ir Krištaponio rinktinės vadas J. Baltušnikas-Vienuolis (1917–1949) bei partizanas Jonas Tumšys-Kytras (1920–1949). Palaikai buvo išniekinti Raguvoje (Panevėžio r.), paskui užpilti žemėmis pakrūmėje. Vėliau K. Tvaska-Rugelis ir kiti žuvusieji J. Baltušniko-Vienuolio sesers Elenos Baltušnikaitės iniciatyva buvo slapta perlaidoti Šapio kaimo kapinaitėse. Lietuvos Atgimimo metais kapas paženklintas laisvės kovotojo atminimo kryžiumi su įrašu (1990 m.).

K. Tvaskos kapas 1994 m. įtrauktas į Lietuvos Respublikos nekilnojamųjų kultūros vertybių registrą kaip Šapio senųjų kapinių komplekso Lietuvos partizanų kapų (kodas 17254) objektas.

K. Tvaskos-Rugelio ir kitų partizanų žūties vietoje jų artimųjų iniciatyva ir lėšomis pastatytas paminklas – geležinis kryžius ant akmenų mūro postamento su memorialiniu įrašu postamento plokštėje (1991 m.).

K. Tvaskai-Rugeliui suteiktas Kario savanorio statusas (po mirties, 1999 m.), jis apdovanotas Kariuomenės kūrėjų savanorių medaliu (po mirties, 2001 m.).