Alytus – vienas seniausių Lietuvos miestų. Pirmą kartą minimas 1377 m. kaip Alytaus pilis Vygando Marburgiečio kronikoje. Per Alytų į šalies gilumą ėjo kryžiuočių puolimų keliai. 1387 m. LDK dokumentuose minimas kaip miestelis. 1581 m. birželio 15 d. Lietuvos didysis kunigaikštis Steponas Batoras suteikė Alytui Magdeburgo teises ir herbą.
1977 m. kovo 30 d. Alytui suteiktos respublikinio pavaldumo miesto teisės. 1995 m. patvirtintas dabartinis Alytaus herbas.