Tėvai: Juozapas Žvirblis (1863–1936) iš Grikiapelių – žemdirbys ūkininkas, 1917 m. lietuvių konferencijos Vilniuje dalyvis, ir Marijona Bublytė-Žvirblienė (1861–1919) iš Grikiapelių – žemdirbė ūkininkė. Augo gausioje šeimoje su keturiais broliais ir penkiomis seserimis, buvo jauniausias. Broliai ir seserys: Anelė Žvirblytė-Pilkauskienė (apie 1892 – ?), Ona Žvirblytė-Baleišienė (apie 1893 – ?), Juozapota Žvirblytė (1895–?), Veronika Žvirblytė-Šakėnienė (1897–?), Jonas Žvirblis (1898–1903) – mirė vaikystėje, Aleksandras Žvirblis (1900–?), Juozapas Žvirblis (1902–?), Kazimiera Žvirblytė (1904–?), Povilas Žvirblis (1905–?), Faustina Žvirblytė (1907–1914) – mirė vaikystėje, Antanas Žvirblis (1908–1908) – mirė kūdikystėje ir Balys Žvirblis (1910 – po 1956) – kariškis, laisvės gynėjas, politinis kalinys ir tremtinys, visuomenininkas. Dėdės (motinos broliai): Aleksandras Bublys (1872–1938) – kunigas, Juozas Zaborskis (1881–1944) – vaistininkas.

1911 m. rugsėjo 19 d. Debeikių bažnyčioje jį pakrikštijo klebonas Domininkas Mikšys, krikštatėviai buvo Jonas Daugulis ir Pranciška Baleišienė, Juozapo Baleišio žmona.

Baigė Utenos gimnaziją. Mokėsi Kauno aukštesniojoje technikos mokykloje, studijavo Telšių kunigų seminarijoje.

1938 m. balandžio 16 d. Telšių Šv. Antano Paduviečio katedroje vyskupas Justinas Staugaitis įšventino J. Žvirblį kunigu.

1938 m. jis trumpai tarnavo Šačių (Skuodo r.) Šv. Jono Krikštytojo parapijoje vikaru, 1938–1940 m. buvo Kruopių (Akmenės r.) Šv. Onos parapijos vikaras, 1940–1943 m. – Gargždų Šv. arkangelo Mykolo parapijos vikaras, 1943–1944 m. – Kartenos (Kretingos r.) Švč. Mergelės Marijos Ėmimo į dangų parapijos vikaras.

1944 m. vasarą J. Žvirblis pasitraukė į Vakarus, 1944–1945 m. gyveno Sandsbache ir Regensburge (Vokietija). 1945–1947 m. jis gyveno Romoje (Italija) ir studijavo Popiežiaus archeologijos institute krikščioniškąją archeologiją, studija baigė 1947 m. sausį bakalauro laipsniu.

1947–1957 m. J. Žvirblis gyveno Santjage (Čilė), ėjo parapijos vikaro ir kapeliono pareigas.

1957 m. atvykęs į JAV, jis apsistojo Grand Rapidse (Mičigano valstija) ir ten liko iki gyvenimo pabaigos. 1957–1968 m. jis tarnavo Grand Rapidso Šv. Petro ir Povilo lietuvių parapijoje vikaru, bendradarbiavo "Dirvoje". 1968–1983 m. jis buvo Elžbietos vilos kapelionas, vėliau 1983–1994 m. tęsė tarnystę vikaru parapijoje.

Pablogėjus sveikatai, senatvę 1994–1997 m. jis praleido Šv. Onos globos namuose.

J. Žvirblis parengė ir išleido religinių straipsnelių rinkinį "Esu keleivis" (1967 m.), pasirašydamas slapyvardžiu Jonas Paskutinysis. Pasaulio lietuvių archyve saugomas J. Žvirblio rankraštis "Lietuviškoji šventų mišių eiga" (1969 m.).

Mirė 1997 m. kovo 4 d. Grand Rapidse (Mičigano valstija, JAV).