Seneliai: Juozas Jurginis (1878–1924) ir Ona Jurginytė-Jurginienė (1878–1934). Tėvai: Jonas Pakalnis (1901–1987) ir Teklė Jurginytė-Pakalnienė (1910–1997) – žemdirbiai ūkininkai. Augo penkių vaikų šeimoje, buvo vyriausias. Broliai ir seserys: Ona Vanda Pakalnytė-Juodviršienė (1929–2013), Vytautas Pakalnis (1932–2017), Bronė Pakalnytė-Laskauskienė (1941–?) ir Jonas Pakalnis (g. 1946 m.). Seserys Bronislava Pakalnytė (1931–1939) ir Teklė Pakalnytė (1936–1940) mirė vaikystėje. Dukterėčia (brolio Vytauto duktė) Irena Pakalnytė (1963–2014) ekonomistė finansininkė.

1947 m. baigė Anykščių vidurinę mokyklą. 1947–1948 m. studijavo Kauno universiteto Statybos fakultete inžineriją, bet studijas paliko.

1948–1950 m. J. Pakalnis dirbo Debeikių (Anykščių r.) septynmetėje mokykloje, buvo fizikos ir kūno kultūros mokytojas. 1950 m. jis buvo mobilizuotas į sovietinę kariuomenę ir 1950–1953 m. atliko privalomąją karinę tarnybą.

Grįžęs į gimtinę, jis apsigyveno Anykščiuose ir 1953–1964 m. dirbo Anykščių Jono Biliūno vidurinėje mokykloje fizinio lavinimo ir rusų kalbos mokytoju. Šioje mokykloje jis išleido dvi savo auklėtinių abiturientų laidas (1956 ir 1961 m.).

1955–1961 m. J. Pakalnis neakivaizdžiai studijavo Šiaulių pedagoginiame institute, įgijo rusų kalbos ir literatūros mokytojo išsilavinimą.

1964–1968 m. jis dirbo Anykščių vakarinės vidurinės mokyklos direktoriumi, 1968–1975 m. buvo Anykščių rajono Vykdomojo komiteto Liaudies švietimo skyriaus vedėjas.

Nuo 1975 m. J. Pakalnis dirbo Anykščių 2-ojoje vidurinėje, nuo 1982 m. –  Antano Vienuolio vidurinėje mokykloje mokytoju, buvo pradinio karinio rengimo vadovas, kol apie 1988 m. išėjo į pensiją.

J. Pakalnis dalyvavo visuomeninėje veikloje: skaitė paskaitas, dalyvavo profesinės sąjungos ir Anykščių karinio komisariato komitetuose.

Jis buvo apdovanotas medaliu "Už pasižymėjimą darbe" (1966 m.), Lietuvos SSR liaudies švietimo pirmūno ženkleliu (1966 m.), jubiliejiniu medaliu "Už šaunų darbą, minint V. I. Lenino 100-ąsias gimimo metines" (1970 m.).

Amžininkų prisiminimuose išliko kaip tiesaus būdo, principingas ir reiklus mokytojas, pasižymėjęs įtaigia iškalba. Laisvalaikiu medžiodavo.

Susituokė 1954 m., žmona Sofija Varatinskaitė-Pakalnienė (1924–2017) – pedagogė biologijos mokytoja. Vaikų nesulaukė.

Mirė 2009 m. rugpjūčio 4 d. Anykščiuose. Palaidotas Anykščių senosiose kapinėse giminės kape. Kapą ženklina šlifuoto akmens paminklas-kompozicija su įkomponuotu akmeniniu kryžiumi, iškaltas įrašas: "Mokytojai / Pakalniai / Juozas +2009.08.04 / Sofija +2017.03.06".

J. Pakalnio ir jo šeimos gyvenimo istorija pasakojama Rimanto P. Vanago dokumentinės prozos knygoje "Artimieji : iš šeimos raštų : mano mažieji kantrieji didieji" (2025 m.).