Seneliai: Juozas Jurginis (1878–1924) ir Ona Jurginytė-Jurginienė (1878–1934). Tėvai: Jonas Pakalnis (1901–1987) ir Teklė Jurginytė-Pakalnienė (1910–1997) – žemdirbiai ūkininkai. Augo penkių vaikų šeimoje, buvo vyriausias. Broliai ir seserys: Ona Vanda Pakalnytė-Juodviršienė (1929–2013), Vytautas Pakalnis (1932–2017), Bronė Pakalnytė-Laskauskienė (1941–?) ir Jonas Pakalnis (g. 1946 m.). Seserys Bronislava Pakalnytė (1931–1939) ir Teklė Pakalnytė (1936–1940) mirė vaikystėje. Dukterėčia (brolio Vytauto duktė) Irena Pakalnytė (1963–2014) ekonomistė finansininkė.

Baigė Anykščių vidurinę mokyklą.

Nuo 1948 m. J. Pakalnis trumpai dirbo Debeikių (Anykščių r.) septynmetėje mokykloje, buvo fizikos ir kūno kultūros mokytojas. Apie 1950 m. jis buvo mobilizuotas į sovietinę kariuomenę ir trejus metus atliko privalomąją karinę tarnybą.

1953 m. grįžęs į gimtinę, jis apsigyveno Anykščiuose ir 1953–1964 m. dirbo Anykščių Jono Biliūno vidurinėje mokykloje mokytoju. Šioje mokykloje jis išleido dvi savo auklėtinių abiturientų laidas (1956 ir 1961 m.).

1955–1961 m. J. Pakalnis neakivaizdžiai studijavo Šiaulių pedagoginiame institute, įgijo rusų kalbos ir literatūros mokytojo išsilavinimą.

1964–1968 m. jis dirbo Anykščių vakarinės vidurinės mokyklos direktoriumi, 1968–1975 m. buvo Anykščių rajono Vykdomojo komiteto Liaudies švietimo skyriaus vedėjas.

Nuo 1975 m. J. Pakalnis dirbo Anykščių 2-osios vidurinės, nuo 1982 m. –  Antano Vienuolio vidurinės mokyklos mokytoju, buvo pradinio karinio rengimo vadovas, kol apie 1988 m. išėjo į pensiją.

J. Pakalnis dalyvavo visuomeninėje veikloje: skaitė paskaitas, dalyvavo profesinės sąjungos ir Anykščių karinio komisariato komitetuose.

Jis buvo apdovanotas medaliu "Už pasižymėjimą darbe" (1966 m.), Lietuvos SSR liaudies švietimo pirmūno ženkleliu (1966 m.), jubiliejiniu medaliu "Už šaunų darbą, minint V. I. Lenino 100-ąsias gimimo metines" (1970 m.).

Amžininkų prisiminimuose išliko kaip tiesaus būdo, principingas ir reiklus mokytojas, pasižymėjęs įtaigia iškalba. Laisvalaikiu medžiodavo.

Susituokė 1954 m., žmona Sofija Varatinskaitė-Pakalnienė (1924–2017) – pedagogė biologijos mokytoja. Vaikų nesulaukė.

Mirė 2009 m. rugpjūčio 4 d. Anykščiuose. Palaidotas Anykščių senosiose kapinėse giminės kape. Kapą ženklina šlifuoto akmens paminklas-kompozicija su įkomponuotu akmeniniu kryžiumi, iškaltas įrašas: "Mokytojai / Pakalniai / Juozas +2009.08.04 / Sofija +2017.03.06".