Tėvai: Antanas Juodelis (? – iki 1880) ir Barbora Kisieliūtė-Juodelienė (apie 1810 – 1880). Broliai ir seserys: Pranciškus Juodelis (1828–1891), Antanas Juodelis (1831–?), Kazimieras Juodelis (1833–1903), Julijona Juodelytė (1835–1837) – mirė vaikystėje, Justinas Jonas Juodelis (1837–1842) – mirė vaikystėje, Barbora Juodelytė (1840–1841) – mirė vaikystėje ir Marijona Juodelytė-Zabielienė (1848–1888) – žemdirbė. Sūnėnas (sesers sūnus) Pranciškus Zabiela (1875–1936) – kunigas, vienuolis jėzuitas.

Mokėsi ir studijavo Vilniuje, bet iš Vilniaus kunigų seminarijos dėl kažkokių aplinkybių turėjo bėgti. Teologijos studijas baigė Varšuvos (Lenkija) vyriausiojoje dvasinėje seminarijoje.

Įšventintas kunigu, J. Juodelis kiek laiko tarnavo Lenkijos parapijose.

Sulaukęs vyresnio amžiaus, jis įstojo į Pauliečių vienuolyną Čenstakavoje (Częstochowa, Lenkija), pasirinko tėvo Juozapo vardą.

Gyvendamas Čenstakavos vienuolyne, J. Juodelis pasižymėjo uoliu tarnavimu unitams, už tai patyrė pasaulietinės valdžios persekiojimus ir buvo trejiems metams pašalintas iš vienuolyno.

J. Juodelis įsikūrė Bernardinų vienuolyne Kole (tuo metu – Kališo gubernija, dabar – Didžiosios Lenkijos vaivadija) ir ten pasiliko daugiau nei dešimtmetį. Jis nuolat keliavo po aplinkines parapijas, per atlaidus sakydavo pamokslus ir klausydavo išpažinčių, išgarsėjo kaip iškalbingas pamokslininkas ir atidus nuodėmklausys.

Tėvas Juozapas Kole pasižymėjo kaip aktyvus lietuvybės skelbėjas. Jis subūrė lietuvišką chorą, priglaudęs kelias anykštėnes giesmininkes, nuolat būrė lietuvius, skatino dainuoti ir giedoti lietuviškai. Su lietuviais jis stengėsi tik lietuviškai bendrauti, nuolat tautiečius burtis kviesdamas.

Amžininkų prisiminimuose išliko kaip gailestingas dvasininkas, rūpestingai lankęs beturčius ligonius.

Mirė 1910 m. rugpjūčio 2 d. (pagal naują kalendorių – rugpjūčio 15 d.) Čenstakavos (Lenkija) Pauliečių vienuolyne.