Tėvai: Petras Kmieliauskas – žemdirbys ūkininkas, turėjo 18 hektarų žemės, ir Domicelė Kmieliauskienė – amatininkė audėja. Augo trijų vaikų šeimoje: sesuo dvynė Vlada Kmieliauskaitė-Žalnierienė (1928–1988) – dailininkė tapytoja, brolis Antanas Kmieliauskas (1932–2019) – dailininkas skulptorius, tapytojas.

Mokėsi Butrimonių (Alytaus r.) pradžios mokykloje, Jiezno (Prienų r.) progimnazijoje, 1947–1948 m. baigė Kauno vidurinę dailės mokyklą. 1948–1950 m. toliau mokėsi Kauno dailės technikume.

Mobilizuotas į sovietinę kariuomenę, 1950–1955 m. J. Kmieliauskas atliko privalomąją karinę tarnybą, tarnavo karo aviacijos daliniuose.

1955–1960 m. jis studijavo Vilniaus dailės instituto Monumentaliosios tapybos fakultete, įgijo monumentaliosios tapybos dailininko – freskų ir mozaikų kūrėjo išsilavinimą.

1960–1988 m. J. Kmieliauskas su pertrauka dėstė Šiaulių pedagoginiame institute, nuo 1981 m. buvo docentas. 1977–1978 m. jis buvo šio instituto Piešimo katedros vedėjas.

1966–1969 m. jis gyveno Anykščiuose ir dirbo Anykščių Jono Biliūno vidurinėje mokykloje piešimo mokytoju. Čia jis ugdė savo mokinio Arūno Vilkončiaus dailės polinkius, sukūrė daug akvarelės ir tapybos kūrinių, įamžindamas dailėje Anykščių apylinkes ("Bibliotekininkė Aldona", "Studentė Rima", "Dėstytojas Antanas", "Melžėjos ganykloje", "Melžėja Veronika", "Ir vėl ruduo", "Po lietaus", "Po šalnų Anykščių apylinkėse", "Rudens vakarą Anykščių apylinkėse", "Lyjant", "Bulviakasis", "Vakaras ganykloje", "Žiemos etiudas" ir kiti kūriniai, 1966–1969 m.).

J. Kmieliauskas buvo dailininkas tapytojas, nuo 1967 m. – Lietuvos dailininkų sąjungos narys.

Jis sukūrė žanrinių kompozicijų, vaizduodamas kaimo žmogaus gyvenimą ("Močiutės vasara", 1996 m.), kompozicijų su arkliais ("Arkliai", 1984 m., "Arklių girdymas", 2001 m.), istorinės tematikos paveikslų ("Vytis", 2001 m.), portretų ("Dailininkas Arvydas Kmieliauskas", "Autoportretas", abu 1986 m.), peizažų ("Gluosniai po šalnų", 2002 m.). Jis kūrė sienų tapybos ir metalo plastikos kompozicijas visuomeninių pastatų interjerams ir eksterjerams (freska Šiaulių "Rasos" kavinei, metalo pano "Verpsto" trikotažo fabriko pastato fasadui, freskos mokykloms), paliko ekslibrių (Pelikso Bugailiškio, 1963 m., ir kt.), piešinių ir akvarelių. Jo paveikslams, sukurtiems XX a. pabaigoje, būdingos prislopintos spalvos, minkšta akvareliška tapysena, žalsvai sidabrinė spalvų gama, primenanti Justino Vienožinskio tapybą.

Lietuvos nacionalinio dailės muziejaus fonduose saugomi J. Kmieliausko kūriniai "Prie ežero" (1956 m.) ir "Rytas kaime – guobos" (1979 m.).

Nuo 1961 m. jis dalyvavo parodose, surengė penkias individualias parodas Lietuvoje ir užsienyje – Kelne (Vokietija, su dukterimi Egle Kmieliauskaite-Milteniene, 2001 m.). Pirmojoje personalinėje tapybos parodoje Šiauliuose (1961 m.) jis eksponavo 110 kūrinių, yra laikomas viešojo dailės gyvenimo Šiauliuose pradininku ir iniciatoriumi. Jis surengė dvi personalines akvarelės ir tapybos parodas Anykščių kino teatre "Šilelis" (1968 ir 1969 m.).

J. Kmieliauskas parašė ir išleido arti dvidešimties dailės pedagogikos leidinių vaikų dailės ir estetinio lavinimo bei mokymo, piešimo, lipdymo, aplikacijos konstravimo ir dekoratyvinio piešimo sričių kritikos ir jų mokymo metodikos tematika.

J. Kmieliausko moksliniai metodiniai leidiniai:

1966 m. – "Konstrukcinis-sąlyginis piešimas pradinėse klasėse".

1972 m. – "Ikimokyklinio amžiaus vaikų lipdiniai : metodinė priemonė ikimokyklinio auklėjimo studentams neakivaizdininkams".

1973 m. – "Figūrėlių konstravimas iš gamtinių medžiagų : metodinė priemonė vaikų darželių auklėtojams ir studentams neakivaizdininkams", "Parodomasis piešimas vaikų darželyje : metodinė priemonė vaikų darželių auklėtojoms ir studentams neakivaizdininkams".

1977 m. – "Papuošalai ir žaislai iš popieriaus : metodinė priemonė defektologijos ir pradinių klasių specialybių studentams".

1980 m. – "Piešimo mokymas pradinėse klasėse".

1982 m. – "Daiktų ir figūrų piešimas : pagalbinė priemonė vaikų darželių auklėtojams".

1983 m. – "Lipdymas vaikų darželyje : metodiniai nurodymai".

1984 m. – "Vaizduojamosios veiklos pamokėlės vaikų darželyje : (piešiniai, lipdymas)".

1985 m. – "Aplikacija ir konstravimas".

1986 m. – "Mokymas lipdyti pagalbinės mokyklos žemesnėse klasėse" (su Liudvika Kaukėnaite).

1987 m. – "Dekoratyvinis piešimas".

1989 m. – "Lipdymas pagalbinėje mokykloje : metod. rekomendacijos".

1992 m. – "Piešimo mokymo pagrindai" (metodinė priemonė).

1996 m. – "Žmogaus piešimas : metodinė priemonė pradinių klasių mokytojams".

Buvo vedęs, žmona Elena Lilija Kmieliauskienė (1940–1992)  – ikimokyklinio auklėjimo pedagogė. Liko našlys. Vaikai: Arvydas Kmieliauskas (1966–1991) –  dailininkas tapytojas, Eglė Kmieliauskaitė-Miltenienė (g. 1971 m.) – dailininkė tapytoja, gyvena ir kuria Didžiojoje Britanijoje. Anūkas Saulius Kmieliauskas (g. 1992 m.) – dailininkas tapytojas.

Mirė 2008 m. gruodžio 12 d. Šiauliuose. Palaidotas Šiaulių Ginkūnų kapinėse (61 kvartalas, 132 kapavietė). Kapą ženklina pilko akmens paminklinė stela su iškaltu įrašu: "A.+A. / Arvydas Kmieliauskas / 1966–1991 / Elena Lilija Kmieliauskienė / 1940–1992 / Jeronimas Kmieliauskas / 1928–2008".