1950 m. baigė studijas Lietuvos žemės ūkio akademijoje, įgijo agronomo išsilavinimą.

1951–1952 m. J. Tyla dirbo Hidrometeorologijos tarnybos valdyboje agrometeorologu. 1952–1955 m. jis atliko privalomąją karinę tarnybą sovietinėje kariuomenėje.

1955–1956 m. J. Tyla dirbo Žemdirbystės ir dirvožemio institute, nuo 1957 m. iki gyvenimo pabaigos buvo Žemdirbystės instituto Vokės filialo mokslinis bendradarbis. 1972–1975 m. jis buvo Vokės filialo žemdirbystės sektoriaus vedėjas.

J. Tyla 1956–1971 m. dirbo mokslinį darbą "Bulvių agrotechnika lengvose dirvose", jo pagrindu parengė rekomendacijų, kurios padėjo sukurti naują bulvių auginimo Lietuvoje technologiją.

1961 m. J. Tyla apsigynė disertaciją, buvo žemės ūkio mokslų kandidatas, 1973 m. apsigynė daktarinę disertaciją, buvo žemės ūkio mokslų daktaras.

Jis parašė ir išleido knygą "Siekime gausaus bulvių derliaus" (1971 m.), paskelbė apie 40 mokslinių darbų ir publikacijų apie bulvių ir pašarinių augalų agrotechniką lengvose dirvose.

Buvo vedęs, žmona Elena Tylienė (1930–2021).

Mirė 1975 m. balandžio 16 d. Vilniuje. Palaidotas Vilniaus Saltoniškių kapinėse (12 sektorius, 7 eilė, 21 kapavietė). Kapą ženklina pilko šlifuoto akmens paminklinė stela su iškaltu įrašu: "Elena / Tylienė / 1930–2021 / Juozas / Tyla / 1923–1975".

J. Tylos rengta monografija "Bulvių kultūra Lietuvoje", Juozo Lazausko užbaigta, buvo išleista tik po mokslininko mirties 1979 m.