Tėvai: Antanas Juodelis (1891–1977) ir Bronislava Karosaitė-Juodelienė (1893–1982). Broliai ir seserys: Emilija Juodelytė (1917–1920) – mirė vaikystėje, Elena Juodelytė (1919–1933) – mirė jaunystėje, Antanas Boleslovas Juodelis (1925–1981) ir Ona Juodelytė-Morkvėnienė (1930–2018). Giminaičiai: antrosios eilės dėdė  (senelio, motinos tėvo, Jono Karoso pusbrolis) Antanas Karosas (1856–1947) – dvasininkas vyskupas, antrosios eilės sūnėnas (tėvo pusseserės sūnus) Kazimieras Strolia (1953–2010) – fotografas ir aviatorius.

1929–1935 m. mokėsi Anykščių vienuolyno pradžios mokykloje, 1935–1939 m. – Anykščių progimnazijoje, 1939–1942 m. baigė Panevėžio berniukų gimnaziją, kur jo klasės vadovas buvo gimnazijos kapelionas Aleksandras Levanas, tapęs dvasininko pavyzdžiu. Kartu su vaikystės ir mokslo draugu Broniumi Strazdu apsisprendė pasišvęsti kunigystei, gavo Anykščių klebono Juozapo Čepėno rekomendaciją. 1942–1944 m. studijavo Kauno Vytauto Didžiojo universiteto Teologijos-filosofijos fakultete, 1947 m. baigė Kauno kunigų seminariją.

1946 m. gruodžio 10 d. buvo įšventintas subdiakonu, gruodžio 11 d. – diakonu. Baigdamas studijas, 1947 m. žiemą kaip diakonas talkino klebonui Leliūnuose (Utenos r.), pavasarį – Klovainiuose (Pakruojo r.).

1947 m. birželio 29 d. Panevėžio Kristaus Karaliaus katedroje vyskupas Kazimieras Paltarokas įšventino J. Juodelį kunigu. Kartu buvo įšventinti dar trys kunigai: Albertas Talačka, Bronius Strazdas ir Jonas Butkys.

1947 m. porą mėnesių jis buvo Ramygalos (Panevėžio r.), paskui 1947–1949 m. – Kupiškio vikaras.

Kupiškyje 1948 m. jis paruošė ir apgynė filosofijos licenciato disertaciją "Jacko Maritaino integralinis humanizmas". 1995 m. Lietuvos mokslo taryba nostrifikavo jo mokslo laipsnį – J. Juodelis buvo pripažintas humanitarinių mokslų, filosofijos daktaru.

1949–1951 m. J. Juodelis buvo Panevėžio vyskupijos kurijos kancleris ir Panevėžio Kristaus Karaliaus katedros vikaras. Dirbdamas Panevėžyje, vyskupo K. Paltaroko pavedimu jis pradėjo rinkti ir saugoti istorinius duomenis apie Panevėžio vyskupijos bažnyčias. Tos išsaugotos medžiagos pagrindu jis parengė ir išleido išsamų veikalą "Panevėžio vyskupija. Istoriniai duomenys. Pastoracinė veikla" (1998 m.).

J. Juodelis taip pat aktyviai dalyvavo pastoracinėje veikloje, 1950 m. rudenį buvo skiriamas dėstyti filosofiją Kauno kunigų seminarijoje, tačiau skyrimo nepalaikė sovietų valdžia. Nepaisydamas valdžios draudimų bei perspėjimų, jis katechizavo vaikus. Todėl 1951 m. spalio 7 d. jis buvo suimtas ir tris mėnesius praleido Vilniaus saugumo kalėjime bei Šiaulių kalėjime. 1952 m. vasario 2 d. Aukščiausiasis teismas už antisovietinę propagandą ir trukdymą auklėti vaikus sovietine dvasia J. Juodelį nuteisė 25 metams lagerio su turto konfiskacija ir 5 metus be teisių.

1952–1955 m. jis gyveno Angarsko (Rusija) statybose, dirbo felčeriu lageryje. 1955 m. lapkričio 25 d. jis buvo paleistas iš tremties, pritaikius amnestiją.

1955 m. pabaigoje grįžęs į Lietuvą, 1956–1969 m. J. Juodelis buvo Šeduvos (Radviliškio r.) vikaras, 1969–1970 m. tarnavo Pandėlio (Rokiškio r.) Švč. Mergelės Marijos Vardo parapijos klebonu. Pandėlyje jis baigė bažnyčios vidaus ir stogo remontą, pradėjo remontuoti išorę.

1970 m. rugsėjo 12 d. jis perkeltas į Panevėžį ir 1970–2002 m. buvo Panevėžio Šv. apaštalų Petro ir Povilo parapijos klebonas.

1973–2002 m. J. Juodelis taip pat buvo ir Panevėžio dekanato vicedekanas, 1976–2002 m. – tribunolo sinodinis teisėjas. 1982–1983 m. generalvikaro teisėmis jis buvo likęs Panevėžio vyskupijos valdytoju, 1983–2001 m. ėjo Panevėžio vyskupijos kurijos kanclerio pareigas. 1989 m. kaip Panevėžio vyskupijos atstovas jis buvo deleguotas į Sąžinės laisvės įstatymo parengimo komisiją, 1990 m. jis buvo paskirtas Panevėžio vyskupijos kunigų tarybos konsultoriumi, nuo 1990 m. buvo ir Bažnytinės nuosavybės priežiūros ir remonto komisijos narys, nuo 1992 m. – Pastoracinės tarybos narys.

1991 m. jis buvo Panevėžio Vyskupo Kazimiero Paltaroko vidurinės mokyklos steigėjas ir pirmasis direktorius. Jo iniciatyva buvo įkurta Panevėžio katalikiškoji mergaičių žemės ūkio mokykla bei Panevėžio kurčiųjų ir neprigirdinčiųjų pagrindinė mokykla.

1992–2006 m. J. Juodelis buvo pirmasis ir vienintelis Lietuvių katalikų mokslo akademijos Panevėžio skyriaus pirmininkas, jam mirus skyrius nustojo egzistuoti.  Nuo 1990 m. jis taip pat vadovavo Panevėžio vyskupijos katechetikos komisijai, ruošusiai tikybos mokytojus, dėstė jiems teologiją, o nuo 1995 m. Kauno Vytauto Didžiojo universiteto Katalikų teologijos fakultete – kursą "Žmogus sūnus Senajame ir Naujajame Testamentuose". Jis rašė straipsnius katalikiškai spaudai, buvo aktyvus religijos filosofijos ir bažnytinio meno žurnalo "Logos" kūrybinis bendradarbis ir patarėjas.

1995 m. pavasarį J. Juodelis vedė rekolekcijas Kanados lietuvių bažnyčiose, 1996 m. rudenį su Lietuvos dvasininkais keliavo į Šventąją Žemę, 1998 m. pradžioje lankėsi Australijoje.

Nuo 2002 m. J. Juodelis buvo Panevėžio Šv. apaštalų Petro ir Povilo parapijos klebonas-emeritas.

Popiežius Jonas Paulius II suteikė J. Juodeliui monsinjoro – Šventojo Tėvo Garbės kapeliono – titulą (1990 m.). Jam buvo suteiktas nusipelniusio mokslo srityje panevėžiečio vardas (1997 m.), Panevėžio miesto Garbės piliečio vardas (2001 m.).

J. Juodelis mokėjo esperanto, prancūzų, vokiečių, anglų, italų, lotynų, hebrajų, lenkų, rusų ir ispanų kalbas. Jis buvo aistringas knygų skaitytojas, sukaupęs didžiulę vertingą asmeninę biblioteką. Aplinkinius jis žavėjo savo erudicija, inteligencija, ramybe ir dvasingumu.

Mirė 2006 m. sausio 7 d. Panevėžyje. Palaidotas Panevėžio Šv. apaštalų Petro ir Povilo bažnyčios šventoriuje. Kapą ženklina originalus akmeninis paminklas iš dviejų statmenai sujungtų juodo šlifuoto akmens plokščių (autorius – skulptorius Algimantas Vytėnas, 2007 m.). Dešiniojoje po portretiniu bareljefu yra įrašas metalinėmis raidėmis: "Monsinjoras / Jonas Juodelis / 1921–2006", kairiojoje – graviruoti įrašai: "Mano didžiausias linkėjimas: / visada gyvenkite vienybėje su / mirties nugalėtoju Kristumi. / (J. Juodelis)" ir "Jo prakilnybė teologijos / daktaras, ilgametis šios / bažnyčios klebonas, kurijos / kancleris, miesto garbės pilietis".

Aldona Vasiliauskienė parašė ir išleido monografiją "Monsinjoras Jonas Juodelis" (2001 m.).

Panevėžio Šv. apaštalų Petro ir Povilo parapijos klebonijos pastatas, kurį pastatė ir kuriame 1990–2006 m. gyveno Panevėžio miesto Garbės pilietis J. Juodelis, paženklintas tai liudijančia atminimo lenta. Šios bažnyčios šventoriuje pastatytas medinis drožinėtas kryžius su iškaltu įrašu: "Šios bažnyčios / 120 metų / (1877–1997) ir / mons. J. Juodelio / kunigystės 50 metų / jubiliejų proga. / Tau dėkojame, / Viešpatie, už / malonių gausą" (1997 m.).

J. Juodelio vardu pavadinta nauja gatvė Panevėžyje.