1950–1955 m. studijavo Vilniaus universiteto Fizikos ir matematikos fakultete matematiką.

1959–1962 m. J. Grybauskas dirbo Vilniaus universiteto Fizikos ir matematikos fakultete aspirantu.

1962 m. Kauno politechnikos institute įkūrus atskirą Taikomosios matematikos katedrą, J. Grybauskas 1962–1972 m. buvo šios katedros dėstytojas, kol pasitraukė iš darbo dėl ligos.

Mirė 1976 m. liepos 12 d. Kaune.