Գյումրու Սև բերդը կառուցվել է 1834 թվականին: Ունեցել է ստորգետնյա ուղիներ դեպի ներկայիս Մայր Հայաստան հուշարձան և Կարմիր բերդ։ Ըստ պատմական աղբյուրների՝ բերդի կառուցման անհրաժեշտությունն առաջացել է ռուս-պարսկական երկրորդ պատերազմի ավարտից հետո։ Թուրքիայի դեմ հնարավոր պատերազմը հաշվի առնելով՝ ռուսները սկսել են հատուկ ուշադրություն դարձնել Գյումրու ամրացմանը։ Ասում են՝ 1828 թվականին Թիֆլիսի զինվորական նահանգապետը Անդրկովկասում գլխավոր հրամանատար Իվան Դիբիչին նամակ է հղել, որում գրել է. «Թուրքերի դեմ հնարավոր պատերազմի դեպքում անհրաժեշտ կլինի Գյումրիում կառուցել բերդ և այն խիստ ամրացնել՝ որպես կարևորագույն ռազմական հենակետ»։ Սև բերդն ի սկզբանե եղել է Ալեքսանդրապոլի պաշտպանական կառույց, ծառայել է որպես զինվորական բանտ։
Միայն 1877-1878 թվականների ռուս-թուրքական Բալկանյան պատերազմից հետո Ալեքսանդրապոլի բերդը դարձավ հրետանու պահեստարան։ Բացի հիմնական բերդից՝ կառուցվեցին նաև առանձնացված պաշտպանական կառույցներ:
Տարածքում կատարված պեղումների արդյունքում պարզվել է, որ այն քաղաքի հնագույն բնակելի հատվածն է։ Առաջին ուսումնասիրություններն այստեղ կատարվել են XIX դարի երկրորդ կեսին՝ 1875 թվականին։ Հնագետները պնդում են, որ ամբողջ հարթավայրը՝ սկսած աշտարակից մինչև ամրոցի վերջ, հոյակապ հնագիտական հուշարձան է, հիմնականում՝ դամբարանադաշտ։
