Tėvai Mykolas Ulickas ir Jadvyga Kupčinskaitė-Ulickienė – valstiečiai žemdirbiai. Dėdės (tėvo broliai) Jonas Ulickas (1867–1859) ir Petras Ulickas (1881–1951) – kunigai, visuomenininkai. Anksti mirus tėvui, augo su motina ir seserimis, jausdamas dėdžių kunigų paramą.

1932–1938 m. baigė Ramygalos progimnaziją, mokydamasis buvo ateitininkas. 1938–1942 m. studijavo Kauno kunigų seminarijoje, 1942–1945 m. tęsė ir baigė studijas atsikūrusioje Vilniaus kunigų seminarijoje.

1944 m. birželio 6 d. A. Ulickas buvo įšventintas diakonu. 1945 m. kovo 17 d. Vilniaus arkikatedroje arkivyskupas Romualdas Jalbrzykowskis įšventino jį kunigu.

1945–1946 m. A. Ulickas buvo Tverečiaus (Ignalinos r.) parapijos vikaras, 1946–1950 m. – Linkmenų (Ignalinos r.) Švč. Trejybės parapijos klebonas. Linkmenuose priglaudęs nuo tremties besislapstančius gimines, jis buvo sovietinės valdžios persekiojamas ir kiek laiko slapstėsi. 1950 m. pusmetį A. Ulickas buvo Ceikinių (Ignalinos r.) Švč. Mergelės Marijos Vardo parapijos administratorius, tuo metu dvi savaites slėpėsi Palūšėje (Ignalinos r.) ir taip pats išvengė tremties.

Pabėgęs į Pietų Lietuvą, 1950–1951 m. jis tarnavo vikaru Ratnyčios (Druskininkų sav.) Šv. apaštalo Baltramiejaus parapijoje, 1951 m. pusmetį buvo Kabelių (Varėnos r.) Švč. Mergelės Marijos Ėmimo į dangų parapijos administratoriumi.

Nuo 1951 m. rugsėjo 18 d. iki lapkričio 6 d. A. Ulickas buvo paskirtas Burbiškio (Anykščių r.) Švč. Jėzaus širdies parapijos administratoriumi, tačiau negavo sovietinės valdžios leidimo dirbti šioje parapijoje, kurią ketinta sunaikinti. Pusmetį 1951–1952 m. jis tarnavo Rudnios (Varėnos r.) Švč. Mergelės Marijos Nuolatinės Globėjos parapijos administratoriumi.

1952 m. gegužės 24 d. A. Ulickas pagaliau atvyko į Burbiškį ir iki 1957 m. vasaros tarnavo šios parapijos administratoriumi. Išvarytas iš dvaro rūmų, kuriuose kartu su mokykla veikė ir bažnyčia, laikęs Šv. Mišias kapinių koplyčioje, jis sutvarkė parapijos įsigytą klojimą Pagraužių kaime šalia Burbiškio, paversdamas jį jaukia kaimo bažnyčia. Bažnyčios šventinimui A. Ulicko iniciatyva burbiškiečiai atvežė ir pasodino aplink šią bažnyčią daug jaunų berželių, kurie paskui užaugo ir tapo natūralia šventoriaus riba.

1957–1963 m. jis buvo Rimšės (Ignalinos r.) Švč. Trejybės parapijos administratorius ir Dūkšto (Ignalinos r.) dekanas, 1963–1981 m. – Dūkšto Šv. Stanislovo Kostkos parapijos klebonas ir dekanas.

1981–1993 m. A. Ulickas buvo Švenčionių Visų Šventųjų parapijos klebonas ir dekanas.

Nuo 1993 m. iki gyvenimo pabaigos jis praleido Palūšėje (Ignalinos r.). 1993–2008 m. jis buvo Palūšės Šv. Juozapo parapijos klebonas, kol 2008 m. gegužės 23 d. buvo atleistas iš klebono pareigų ir liko Palūšėje kaip kunigas emeritas, kiek turėjo jėgų, talkino pastoracijoje.

A. Ulickas pasižymėjo kaip tvarkos, švaros ir grožio mėgėjas. Jo iniciatyva pagal visas paminklotvarkos taisykles buvo suremontuota medinė Palūšės bažnyčia – valstybės saugomas architektūros paminklas, perdengtas jos stogas, gražiai sutvarkytas šventorius ir šalia esančios senosios Palūšės kapinės. Šiai bažnyčiai tvarkyti kunigas paaukojo ir asmenines lėšas – iš JAV gautą palikimą.

Mirė 2009 m. rugsėjo 2 d. Palūšėje (Ignalinos r.). Palaidotas Palūšės bažnyčios šventoriuje.