Baigė Varkujų pradžios mokyklą. Toliau nesimokė, tarnavo pas ūkininkus.

1937–1945 m. J. Skardžius gyveno Panevėžyje ir dirbo įvairiose įstaigose. 1940–1945 m. jis  mokėsi Panevėžio ekonominėje mokykloje, kur baigė vidurinį mokslą.

1945–1950 m. jis studijavo Vilniaus universiteto Ekonomikos fakultete, įgijo ekonomisto finansininko išsilavinimą.

1950–1953 m. J. Skardžius dirbo Vilniuje valstybinio banko skyriaus vedėju, buvo miesto valdybos viršininkas.

1953–1955 m. jis tęsė studijas Leningrado (dabar – Sankt Peterburgas, Rusija) Finansų akademijoje, įgijo pinigų apyvartos ir kredito finansininko išsilavinimą.

Baigęs studijas, nuo 1955 m. iki gyvenimo pabaigos J. Skardžius gyveno ir dirbo Vilniuje.

1955–1963 m. jis buvo SSRS valstybinio banko Lietuvos kontoros pinigų apyvartos skyriaus viršininkas.

1963–1985 m. J. Skardžius buvo Lietuvos Mokslų akademijos Ekonomikos instituto Prekių ir pinigų apyvartos skyriaus vadovas.

1967 m. jis apsigynė disertaciją, buvo ekonomikos mokslų kandidatas, 1993 m. nostrifikuotas socialinių mokslų, ekonomikos daktaras.

J. Skardžius parašė mokslinių straipsnių apie prekių ir pinigų cirkuliacijos planavimo bei reguliavimo sistemos tobulinimą, juos publikavo žurnaluose "Mokslas ir gyvenimas", "Liaudies ūkis" ir kituose. Jis išleido apžvalginio pobūdžio propagandines knygas: "Ketvirtis amžiaus socializmo keliu" (su kitais autoriais, 1965 m.), "Lietuva per naujosios epochos pusamžį" (su kitais autoriais, rusų kalba, 1967 m.), "Lietuvos TSR miesto ir kaimo socialinių ir ekonominių skirtumų mažinimo keliai : medžiaga lektoriui" (1976 m.), "Respublikos gamybinio potencialo didinimas ir vartojimo lygio augimas" (su Kazimieru Meškausku, 1982 m.),  "Materialinės gerovės kėlimas ir socialinis vystymasis Tarybų Lietuvoje : analitinė apžvalga" (1983 m.).

Jis išleido ir ekonominio profilio knygas: "Tarybų Pabaltijo respublikų ekonomikos raida" (su kitais autoriais, 1980 m.), "Daugiau gaminsime – daugiau vartosime" (su Kazimieru Meškausku, 1983 m.), sudarė ir redagavo akademinius leidinius "Lietuvos TSR miesto ir kaimo socialinių ekonominių skirtumų mažinimas" (1977 m.), "Lietuvos TSR gyventojų pajamų ir vartojimo formavimas" (1982 m.).

J. Skardžiui buvo suteiktas Lietuvos SSR nusipelniusio ekonomisto vardas (1983 m.).

Susituokė 1949 m., žmona Stefanija Putrimaitė-Skardžiuvienė (g. 1923 m.) iš Vilkabrukių – gydytoja odontologė. Vaikai: Julius Skardžius (g. 1950 m.) – mokslininkas elektronikas, Algis Skardžius (g. 1951 m.) – inžinierius, verslininkas, ir Paulius Skardžius (g. 1960 m.) – kelininkas, valstybės tarnautojas.

Mirė 2001 m. gruodžio 23 d. Vilniuje. Palaidotas Vilniaus Sudervės kapinėse (29 sektorius, 6 eilė, 5 kapas). Kapą ženklina akmeninis skulptūrinis Rūpintojėlis ir lauko riedulys, ant kurio pasvirosios plokštumos metalo raidėmis įrašas: "Jonas / Skardžius / 1913–2001".

J. Skardžiaus biografija publikuota kraštotyros monografijoje "Vyžuonos : kraštas ir žmonės" (sudarė Algirdas Vyžintas, 2006 m.).