Tėvai: Juozapas Žvirblis (1863–1936) iš Grikiapelių – žemdirbys ūkininkas, 1917 m. lietuvių konferencijos Vilniuje dalyvis, ir Marijona Bublytė-Žvirblienė (1861–1919) iš Grikiapelių – žemdirbė ūkininkė. Augo gausioje šeimoje su keturiais broliais ir penkiomis seserimis, buvo jauniausias. Broliai ir seserys: Anelė Žvirblytė-Pilkauskienė (apie 1892 – ?), Ona Žvirblytė-Baleišienė (apie 1893 – ?), Veronika Žvirblytė-Šakėnienė (apie 1898 – ?), Aleksas Žvirblis (apie 1900 – ?), Povilas Žvirblis (1905–?), Faustina Žvirblytė (1907–?), Antanas Žvirblis (1908–?), Boleslovas Žvirblis (1910–?) ir kt. Dėdės (motinos broliai): Aleksandras Bublys (1872–1938) – kunigas, Juozas Zaborskis (1881–1944) – vaistininkas.

1911 m. rugsėjo 19 d. Debeikių bažnyčioje jį pakrikštijo klebonas Domininkas Mikšys, krikštatėviai buvo Jonas Daugulis ir Pranciška Baleišienė, Juozapo Baleišio žmona.

Baigė Utenos gimnaziją. Mokėsi Kauno aukštesniojoje technikos mokykloje, studijavo Telšių kunigų seminarijoje.

1938 m. J. Žvirblis buvo įšventintas kunigu.

1938–1944 m. jis dirbo Šačių (Skuodo r.) Šv. Jono Krikštytojo, Kruopių (Akmenės r.) Šv. Onos, Gargždų Šv. arkangelo Mykolo parapijose vikaru.

1944 m. J. Žvirblis pasitraukė į Vakarus, 1944–1946 m. gyveno Romoje (Italija) ir studijavo krikščioniškąją archeologiją.

1946–1957 m. J. Žvirblis gyveno ir kunigavo Santjage (Čilė).

1957 m. atvykęs į JAV, jis apsistojo Grand Rapidse (Mičigano valstija) ir ten liko iki gyvenimo pabaigos, dirbo Grand Rapidso lietuvių parapijoje, bendradarbiavo "Dirvoje".

J. Žvirblis parengė ir išleido religinių straipsnelių rinkinį "Esu keleivis" (1967 m.), pasirašydamas slapyvardžiu Jonas Paskutinysis. Pasaulio lietuvių archyve saugomas J. Žvirblio rankraštis "Lietuviškoji šventų mišių eiga" (1969 m.).

Mirė 1997 m. kovo 4 d. Grand Rapidse (Mičigano valstija, JAV).