Tėvai: Pranciškus Rimkus (1853–1940) ir Ieva Avižaitė-Rimkuvienė (1854–1938) – valstiečiai žemdirbiai. Augo gausioje 12 vaikų šeimoje, broliai ir seserys: dvyniai Adomas Rimkus (1881–1881) – mirė kūdikystėje ir Ieva Rimkutė (1881–?), Anelė Rimkutė (1883–1884) – mirė vaikystėje, Kamilė Rimkutė-Luščiauskienė (apie 1884 – 1935), Teofilė Rimkutė-Strolienė (1885–1970), Sofija Rimkutė (1889–1897) – mirė vaikystėje, Filomena Rimkutė (1889–?), Konstancija Rimkutė (1892–1901) – mirė vaikystėje, Ona Rimkutė (1895–1902) – mirė vaikystėje, Jonas Rimkus (1898–1980) ir Rozalija Rimkutė (1900–1901) – mirė kūdikystėje.

Giminaičiai: sūnėnas (sesers Anelės sūnus) Klemensas Luščiauskas (1918–2008) – muzikantas armonikierius, teta (tėvo sesuo) Juozapota Rimkutė-Kairienė (1861–1947) – liaudies dainininkė, pusseserės (tėvo sesers dukterys) Veronika Kairytė-Kuliešienė (1888–1944) – liaudies dainininkė, Emilija Kairytė-Petronienė (1896–1981) – liaudies dainininkė, Rozalija Kairytė (1892–1971) – liaudies dainininkė, Anelė Kairytė-Bajorienė (1898–1988) – pedagogė ir liaudies dainininkė, memuaristė, Monika Kairytė-Jankauskienė (1904–1976) – liaudies dainininkė, antrosios eilės pusbrolis Antanas Žukauskas-Vienuolis (1882–1957) – vaistininkas ir rašytojas.

XX a. pradžioje A. Rimkus išvyko į Sankt Peterburgą (Rusija), kur, sesers Teofilės globojamas, mokėsi ir dirbo. 

Pirmojo pasaulinio karo metais A. Rimkus buvo mobilizuotas į carinės Rusijos kariuomenę, atliko karinę tarnybą Maskvoje (Rusija).

1918 m. grįžęs į Lietuvą, A. Rimkus gyveno tėviškėje ir aktyviai dalyvavo, kuriant vietos savivaldą. 1918 m. lapkričio 20 d. jis buvo susibūrusio Anykščių valsčiaus komiteto, perėmusio valdžią iš pasitraukiančios vokiečių okupacinės administracijos, narys, išrinktas pirmininko (Adomo Laskausko) pavaduotoju. Jis vienbalsiai buvo deleguotas Anykščių valsčiaus atstovu į Lietuvos Valstybės Tarybą, jam buvo pavesta užmegzti ryšius su Lietuvos laikinąja vyriausybe ir gauti instrukcijas veiklai.

Iki 1922 m. lapkričio mėnesio A. Rimkus buvo Utenos apskrities valdybos narys, Lietuvos valstiečių liaudininkų sąjungos Anykščių skyriaus pirmininkas.

Nuo 1922 m. lapkričio 13 d. iki 1923 m. kovo 13 d. A. Rimkus buvo Lietuvos Respublikos I Seimo narys.

Į Seimą jis buvo išrinktas VI (Utenos) rinkimų apygardoje pagal Lietuvos valstiečių sąjungos sąrašą. Priklausė Lietuvos valstiečių sąjungos frakcijai, kuri su Lietuvos socialistų liaudininkų demokratų partija sudarė bloką.

Nuo 1922 m. lapkričio 17 d. jis buvo Seimo Mandatų komisijos narys, nuo 1922 m. lapkričio 18 d. – Savivaldybių ir administracijos komisijos narių Zigmo Toliušio ir Aleksandro Haroldo Tornau pavaduotojas, nuo 1923 m. sausio 23 d. – Darbo ir socialinės apsaugos komijos narys. Jis buvo Skundų ir peticijų komisijos narių Kazimiero Ralio ir Jono Kardelio pavaduotojas.

A. Rimkus kandidatavo ir į II Seimą toje pačioje VI (Utenos) rinkimų apygardoje pagal Lietuvos valstiečių sąjungos sąrašą, tačiau nebuvo išrinktas.

Baigęs darbą Seime, nuo 1923 m. jis dirbo Utenos savivaldybėje.

Vėliau A. Rimkus įsikūrė Kaune, kur liko iki gyvenimo pabaigos, dirbo Kauno lombarde.

A. Rimkus artimai bičiuliavosi su rašytoju A. Vienuoliu, viešėdavo pas jį Anykščiuose ir priimdavo rašytoją pasisvečiuoti Kaune. Bendraudamas su giminėmis, jis paskatino pusseserės Anelės Kairytės-Bajorienės sūnų Feliksą Bajorą domėtis muzika ir ją studijuoti.

Amžininkų prisiminimuose A. Rimkus liko kaip labai apsišvietęs, viskuo domėjęsis ir savo nuomonę turėjęs eruditas, mokėjęs vokiečių, žydų, latvių, rudų, lenkų ir šiek tiek anglų kalbas.

Laisvalaikiu mėgo muziką.

Susituokė 1933 m. spalio 25 d. Kauno Kristaus Prisikėlimo bažnyčioje, žmona Elena Stankevičiūtė-Rimkienė (1893–1976). Duktė Milita Rimkutė-Meškauskienė (g. 1935 m.).

Mirė 1952 m. gegužės 1 d. Kaune. Palaidotas Kauno Petrašiūnų kapinėse (6 kvartalas, 20 kapas). Kapą ženklino paminklinis akmuo su įrašu: "Kuklumas, darbas ir tiesa puoš tavo veidą amžinai". XXI a. pradžioje pertvarkius kapavietę, ją dengia rausvo šlifuoto akmens plokštės, rausvame paminkliniame akmens luite yra įrašas metalinėmis raidėmis: "Rimkai / Antanas 1887–1952 / Elena 1893–1976 / Meškauskai / Kajetonas 1935–2021 / Petras Stankevičius 1859–1947".