公元1226年，成吉思汗率领蒙古大军征伐西夏，首先攻克了黑水城，在这里设置了亦集乃路总管府。元朝时期的黑水城，不仅是一座人口众多，经济发达的繁荣城市，而且还是当时“北走岭北、西抵新疆、南通河西、东往银川”的交通要道和元朝西部地区的军事、政治、文化中心。

公元十四世纪中叶，黑水河改道，昔日的绿洲，被沙漠吞噬，变成了一片荒漠。曾经繁华的黑水城也变成了一座荒废的空城。 二十世纪初，俄国军人科兹洛夫和英国人斯坦因才在黑水城发现了大量的西夏文献，并偷运出境。这一发现被公认为是继十九世纪末、二十世纪初殷墟甲骨、敦煌遗书之后的中国第三大考古文献发现。