Tėvai: Jurgis Geleževičius ir Stasė Geleževičienė – žemdirbiai mažažemiai valstiečiai. Augo su broliu ir seserimis.

1916–1920 m. baigė Sudeikių (Utenos r.) pradžios mokyklą. Toliau nebesimokė, dirbo pas aplilnkinius ūkininkus samdomą darbą. Paauglystėje pasimokęs staliaus amato, vėliau dešimtmetį dirbo staliumi statybininku. Antrojo pasaulinio karo metais gyveno tėviškėje ir dirbo šeimos ūkyje.

1945–1946 m. J. Geleževičius dirbo Užpalių (Utenos r.) valsčiaus Vykdomojo komiteto pirmininko pavaduotoju. 1946 m. pasiųstas į Vilnių, jis baigė tarybinių darbuotojų kursus.

1946 m. apsigyvenęs Anykščių krašte, 1946–1946 m. J. Geleževičius dirbo Skiemonių valsčiaus Vykdomojo komiteto Žemės ūkio skyriaus vedėju, 1948–1949 m. buvo Skiemonių valsčiaus Vykdomojo komiteto pirmininkas, 1949–1950 m. – Debeikių valsčiaus kompartijos komiteto sekretorius.

1950 m. jis trumpai dirbo kompartijos Anykščių rajono komiteto žemės ūkio skyriaus instruktoriumi, kol buvo išsiųstas į Vilnių ir baigė devynių mėnesių kursus aukštojoje partinėje mokykloje. 1951–1952 m. jis toliau dirbo kompartijos Anykščių rajono komitete instruktoriumi.

1950–1953 m. tuo pačiu metu J. Geleževičius mokėsi ir trimečiuose agrozootechnikos kursuose žemės ūkio meistrams paruošti, 1950–1951 m. išklausė dėstytojo Jono Sadūno paskaitas ir įgijo agrotechnikos žinių minimumą.

1952–1968 m. J. Geleževičius dirbo Anykščių rajono "Bolševiko" kolūkio (Elmininkai I) pirmininku, kol išėjo į pensiją. Jis pasižymėjo gerais organizatoriaus ir vadovo sugebėjimais, sustiprino iki tol sunkiai išgyvenusį kolektyvinį ūkį. J. Geleževičiaus iniciatyva 1953 m. į Elmininkų I kaimą iš Bikūnų buvo nutiesta elektros linija, žmonės pradėjo naudotis elektriniais buitiniais prietaisais.

Vadovaudamas ūkiui, J. Geleževičius išugdė jaunų specialistų, tapusių gabiais vadovais, plėtė kolūkinių pastatų statybas, gausino ūkio turtą.

Kaip "Bolševiko" kolūkio atstovas jis kelis kartus buvo išrinktas Anykščių liaudies teismo liaudies tarėju ir iki senatvės ėjo šias pareigas. Nuo 1955 m. jis buvo renkamas Anykščių rajono Darbo žmonių deputatų tarybos deputatu.

Senatvėje jis gyveno Anykščiuose.

J. Geleževičiui buvo suteiktas Lietuvos SSR žemės ūkio pirmūno garbės vardas (1963 m.), Lietuvos SSR nusipelniusio žemės ūkio darbuotojo garbės vardas (1965 m.). Jis buvo apdovanotas Lietuvos SSR Aukščiausiosios tarybos prezidiumo Garbės raštais 60-mečio ir 70-mečio progomis (1968, 1978 m.). Jo 80-mečio proga, J. Geleževičiaus nuotrauka sovietinės valdžios sprendimu buvo įdėta į Anykščių rajono darbo pirmūnų garbės lentą (1988 m.).

Buvo vedęs, žmona Stasė Geleževičienė (1922–1963). Liko našlys.

Vėl  vedė 1964 m., žmona Anelė Gliaudelytė-Geleževičienė (1920–2011) – tautodailininkė tekstilininkė. Vaikų nesulaukė.

Mirė 1994 m. gegužės 23 d. Anykščiuose. Palaidotas Anykščių senosiose kapinėse. Kapą ženklina pilko akmens paminklas su iškaltu įrašu: "Geleževičiai / Stasė 1922–1963 / Jonas 1908–1994 / Anelė 1920–2011".