XIX a. pab. carinė Rusija, kuriai tuo metu priklausė dabartinės Lietuvos teritorija, ėmėsi stiprinti vakarines savo sienas. Alytus buvo paskelbtas III klasės tvirtove, esančia Nemuno upės pusiaukelėje tarp Kauno ir Gardino – I klasės tvirtovių. Mieste rekonstruoti ar naujai nutiesti plentai, užtikrinę greitą ir gerą susisiekimą su aplinkiniais miestais. Geležinkeliu Alytus sujungtas su Suvalkais ir Vilniumi. Be to, vyko kareivinių statybos (artilerijos, pontono ir Saratovo), kuriose vėliau įsikūrė 4 tūkst. karių. Kareivinės Alytuje pastatytos pagal sudarytą keturių fortų tvirtovės planą.
Pirmasis fortas pradėtas statyti 1887 m., kurį anuomet sudarė dvi dalys (antroji dalis neišlikusi). Jis geriausiai išlikęs iki mūsų dienų, kiti fortai sunaikinti arba menkai išlikę.
Fortą sudaro trikampio plano užapvalintais kampais pylimas (aukštis 3-4 m), smaigaliu orientuotas į šiaurę. Pietų pusėje – trikampis įgilinimas. Pylimą supa negili fosa (gynybinis griovys, įgilinta kliūtis, įrengta prieš gynybos liniją).
Tai vieninteliai III klasės carinės gynybinės tvirtovės likučiai Lietuvoje (viso buvo pastatytos tik dvi carinės tvirtovės: I klasės Kauno ir III klasės Alytaus).
Tarpukario Lietuvoje vykdant žemės reformą buvo išmatuoti ir tuometiniai Alytaus fortai (1924 m.). Archyviniai dokumentai byloja, kad I fortas (abiejų dalių kompleksas) užėmė 16,7938 ha teritoriją, joje 13 ha buvo ganyklos, o visa kita – ariama žemė.
Vieną speiguotą 1965 m. sausio sekmadienį II fortas buvo susprogdintas. Po kelerių metų jo vietoje išdygo Alytaus medvilnės kombinatas su tų laikų modernia valgykla (dabartinėje Pramonės g.). Kokio forto būta, galima tik spėlioti. Tuose pačiuose archyviniuose dokumentuose rašoma, jog forto teritorija buvo 8, 3980 ha. Žemė, kurioje jis stovėjo, buvo valstybės nuosavybė ir buvo išnuomota.
III fortas buvo dabartinio pastato Ūdrijos g. 38 vietoje. Tai mažiausias fortas (4,7588 ha) ir vietinių vadinamas šlapiuoju. Viena jo dalis buvo pastatyta pelkėje.
Tarp III ir IV fortų buvo trijų kilometrų atstumas, todėl nuo III forto nutolusi maždaug kilometrą. Šiauriau nuo senojo Simno kelio, ant kalniuko (dabartinių Žiedo ir Amatų gatvių teritorijoje), įsikūrusi baterija Nr. 4 (baterija – artilerijos pulko dalis, kurią sudarė 2-3 ugnies būriai, turėję 2-8 pabūklus, čia būdavęs valdymo skyrius ir ten galėjo būti 3-4 priešakinių stebėtojų bei žvalgybos grupės), saugojusi galimą priešo puolimą iš vakarų (senajame Simno kelyje). Šioje vietoje baterija įkurdinta todėl, kad tarp III ir IV forto yra didesnis atstumas nei tarp visų kitų Alytaus fortų. Taip bandyta neutralizuoti susidariusį „koridorių“.
IV Alytaus fortas yra įsikūręs prie pat senojo kelio Alytus – Seirijai. Fortas apardytas, pailgo apskritimo formos, juosiamas keliomis žemesnėmis sampylų eilėmis. Už jų fortas apjuostas maždaug 3-4 metrų aukščio žemių sampyla. Pietvakarinė forto dalis apgadinta, čia visiškai nėra išlikusių sampylų. Šis fortas tiesiausiu keliu buvo sujungtas su artilerijos kareivinėmis, kurios įsikūrusios dabartinėje Pulko gatvėje.
Dėl Alytaus fortų buvo sugriauta Miroslavo bažnyčia, kai 1914 m. vyko karo veiksmai ir vokiečiai ėmė spausti rusus. Pastarieji suprato, jog nuo Miroslavo bažnyčios bokštų kaip ant delno matyti Alytaus tvirtovė. Kad šiuose bokštuose vokiečiai neįrengtų sekimo punkto, prieš atsitraukdami rusai abu Miroslavo bažnyčios bokštus išsprogdino ir bažnyčią sudegino.
Įdomus faktas, jog fortus buvo uždrausta fotografuoti, tačiau piešti niekas nedraudė.
Tvirtovės komunikacinės sistemos formavimas ir fortų statyba turėjo teigiamą poveikį XIX a. pab. Alytaus miesto augimui.
Kuriant III klasės tvirtovę Alytuje buvo nemažai investuota, tačiau prasidėjus Pirmajam pasauliniam karui carinės Rusijos armija Alytų atidavė be mūšio, tik besitraukiant susprogdinti visi miesto tiltai.