中原军队攻陷黑水城后，大肆搜寻而未能得见宝藏。关于这段历史还有另外一种说法：黑将军战败后并没有死，而是向东南方向撤退。在距今内蒙古自治区阿拉善左旗巴音浩特不远的地方，曾留下了他的盔甲和战袍。这一有传奇色彩的故事与历史事实相去甚远，但其中藏宝的传说却吸引着不少人。俄国的科兹洛夫就是着迷于神秘的黑水城的人物。

　　黑水城始建于公元十一世纪初，是西夏王朝设在北部边境的一座重要的军事城堡，也是西夏十二军司之一黑山威福军司的治所，故又有“威福军城”之称。城堡早在西夏王朝正式建国以前就已建成。尽管城市规模较小，但因它是河西走廓通往漠北的必经之路和交通枢纽，所以，战略地位极为重要。

　　在西夏建国以前，黑水城一带就已有大量居民，在这里耕耘牧猎、繁衍生息。西夏建国后，为了加强这一地区的管理，以防东面辽国和漠北蒙古的侵入，西夏王朝曾先后调集两个统军司来驻守黑水城及整个居延地区。并将大批人口迁到黑水城一带定居，让他们在当地屯垦造田、生产粮食，以满足大批军民的生活需要。

　　到西夏鼎盛时期时，黑水城已不再是一座单纯的军事城堡，逐渐变成一座经济、文化都较为发达的繁荣城市。当时的黑水城内，官署、民居、店铺、驿站、佛教寺院以及印制佛经、制作工具的各种作坊布满了城区，一派繁荣昌盛的景象。这种情况大约持续了近两百年之久。

　　公元1226年，北方“蒙古汗国”的成吉思汗率领大军征伐西夏，首先攻克了黑水城，并由此南下，直取西夏的国都中兴府，次年，西夏灭亡。元朝建立后，黑水城依然沿用。而且受到元朝统治者的重视。当时这一地区划归甘肃行省，称“亦集乃路”元朝在这里设置了亦集乃路总管府，管辖这一地区及西宁、山丹两州。

　　由于黑水城是漠北通往内地的重要交通枢纽，元朝统治者不仅派遣了大量军队来黑水城驻防，还从各地迁来许多汉族和蒙古族人，来这里与当地人共同发展农牧业生产。当时，各族人民利用额济纳河的水利资源开渠造田，经过数十年的奋斗，先后屯田近万亩。

　　元朝时期，由于经济的发展和人口的不断增加，原来的黑水城已不能满足需要。于是在原有城池的基础上，对城市进行了扩建改造。扩建后的黑水城，东西宽450米，南北长380米，是原来城市面积的三倍。扩建后的城市，不仅增加了城区面积，而且加强了城市的防御能力。当时的黑水城，城墙高达十米，城内有登城马道七条，设有宽约六米的东、西城门两座，并在城门外加筑了瓮城。在四面城墙的外侧还修筑了马面、角台等御敌建筑。