1899–1902 m. baigė Veiverių (Prienų r.) mokytojų seminariją, įgijo mokytojo specialybę.

Paskirtas 1902 m. lapkritį, J. Greimas 1902–1906 m. dirbo Sobkovo (Lenkija) liaudies mokykloje mokytoju.

Perkeltas 1906 m. vasario mėnesį, 1906–1911 m. jis buvo Šimonių (Kupiškio r.) liaudies mokyklos mokytojas, pirmasis lietuvis, pradėjęs dirbti šioje mokykloje.

Perkeltas 1911 m. spalį, 1911–1913 m. J. Greimas dirbo Juodpėnų (Kupiškio r.) liaudies mokykloje mokytoju.

Paskirtas 1913 m. rugsėjį, 1913–1915 m. jis buvo Kunigiškių (Anykščių r.) liaudies mokyklos mokytojas.

Priartėjus Pirmojo pasaulinio karo frontui, J. Greimas buvo evakuotas į Rusiją ir dirbo mokytoju lietuvių pabėgėlių mokykloje Tuloje.

1918 m. rugpjūtį jis su šeima grįžo iš Rusijos ir 1918–1919 m. vėl dirbo Kunigiškių pradžios mokykloje mokytoju ir pirmuoju šios mokyklos vedėju.

1920–1927 m. J. Greimas gyveno ir dirbo Kupiškyje. 1919–1920 m. jis buvo Kupiškio pradžios mokyklos mokytojas, 1920–1927 m. – Kupiškio progimnazijos mokytojas, dėstė aritmetiką, lietuvių kalbą ir dailyraštį.

Kupiškyje J. Greimas subūrė moksleivių aušrininkų kuopelę. 1920 m. jis buvo Kupiškio miesto savivaldybės  tarybos sekretorius.

1927 m. jam buvo suteiktas vidurinės mokyklos (gimnazijos) mokytojo vardas ir teisė mokyti rusų kalbos, istorijos, geografijos ir gamtos mokslų, fizikos, aritmetikos, geometrijos ir dailyraščio.

1927–1931 m. J. Greimas gyveno Šiauliuose ir dirbo Šiaulių apskrities II rajono pradžios mokyklų inspektoriumi, buvo Šiaulių 2-osios vidurinės mokyklos mokytojas. 1929 m. įkūrus J. Basanavičiaus liaudies universiteto Šiaulių skyrių, jis buvo paskirtas pirmuoju šio skyriaus vedėju.

Nuo 1931 m. jis gyveno Marijampolėje ir dirbo Marijampolės apskrities mokyklų inspektoriumi. Vėliau jis persikėlė į Prienus ir dirbo Prienų vidurinėje mokykloje mokytoju. Nuo 1937 m. jis buvo Prienų burmistras, Lietuvos tautininkų sąjungos Prienų rajono pirmininkas.

Buvo apdovanotas Didžiojo Lietuvos kunigaikščio Gedimino 4-ojo laipsnio ordinu (1929 m.), Šaulių žvaigžde (1938 m.), Trijų Liepsnų 2-ojo laipsnio žymeniu (1937 m.).

Amžininkų prisiminimuose buvo taktiškas, darbštus, ramus, mylimas vaikų ir kartu labai griežtas mokytojas.

1941 m. birželio 14 d. J. Greimas buvo suimtas ir išvežtas į Rešotų lagerį (Žemutinio Ingašo r., Krasnojarsko kr., Sibiras, Rusija).

Buvo vedęs,  žmona Konstancija Mickevičiūtė-Greimienė (1886–1956) – tarnautoja, 1941–1954 m. tremtinė ir politinė kalinė. Vaikai: Gražina Greimaitė-Tupčiauskienė (1911–1988) – pedagogė, Algirdas Julius Greimas (1917–1992) – mokslininkas kalbininkas, semiotikos mokslo kūrėjas, pedagogas, ir Romualdas Greimas (1923–?) – emigrantas Australijoje.

Mirė 1942 m. sausį Rešotų lageryje (Krasnojarsko kr., Sibiras, Rusija). Buvo palaidotas bendrame kalinių kape, palaidojimo vieta nežinoma.

Kauno Petrašiūnų kapinėse (19 kvartalas, 6 eilė, 5 kapas) Greimų šeimos kapavietėje įrengtas ir J. Greimo kenotafas, šalia kitų šeimos narių pavardžių paminklinėje steloje iškaltas įrašas "Julius Greimas / 1882–1942".