第二次失误是建文、永乐、宣德三朝对三卫的放弃。洪武年间，明朝曾在长城以北设大宁卫（今内蒙宁城）、开平卫（今内蒙多伦）和东胜卫（今内蒙托克托）等。此三卫使得西北、华北诸镇与东北诸镇之间互为犄角，声势相联，在辽东镇和华北宣府、大同等镇之间形成了一个通畅的战略走廊。更重要的是，这个战略走廊在北京和蓟镇以北，产生了一个战略缓冲和战略纵深地带。这个战略走廊若能保留始终，有重兵防守要冲，断不会有蒙古和满清铁骑屡屡突破北部长城而长驱直入威胁京畿。建文、永乐、宣宗三朝，陆陆续续三卫或放弃或内迁，最终使北部防线完全收缩。起初为了消弱藩王势力，明朝把驻守北部边陲的藩王调往内地，随后大宁卫驻军全部内迁至保定，使得东胜卫孤悬在外，遂调东胜左卫于永平，东胜右卫于遵化，原有的东胜卫从此不复存在。后明宣宗又放弃开平，南迁三百里，移守独石，成为开平前屯卫。至此，防线南移，北部屏障退至长城，边防变的较为空虚， "自是，辽东与宣、大声援阻绝"（《明史》卷九一《兵志三》）。

明中叶时长城沿线的重要边镇群中已经形成边境九个固定的防御核心重镇，称为九边。所谓九边，即辽东、蓟州、宣府、大同、榆林、宁夏、甘肃、固原、太原诸镇。这些重镇往往屯有重兵，攻击时集结，守御时互有策应。例如万历年间辽东鞑靼土蛮部四万骑兵大举进攻辽东，戚继光率数万蓟镇重兵，李成梁率领辽东镇重兵，几成合围之势，后土蛮部畏怯，初战之后即退军远去。然而，这只是明后期极少数的例子。明后期防御体系中的"硬件"虽固，"软件"效能却十分低下，诸如军队战力、组织力和指挥系统的运转效率等均弱于对手，明朝只好过分依赖长城工事，在万里长城沿线行"困守"之计。

对于长城的作用，后来清朝的康熙和乾隆皇帝曾有过精彩之论。康熙八年（1690年），由于古北口一带的长城"倾塌甚多"，总兵蔡元上书"请行修筑"。康熙没有批准，他在上谕里说："秦筑长城以来，汉、唐、宋亦常修理，其时岂无边患？明末我太祖统大兵长驱直入，诸路瓦解，皆莫能当。可见守国之道，惟在修德安民。民心悦则邦本得，而边境自固，所谓‘众志成城'者是也......"康熙是满人，当然不会抱有"华夷大防"之见，故而把对蒙古等民族的安抚，看作是"安民"。清朝在北部一直采取"本朝不设边防，以蒙古部落为屏藩"的策略。康熙解释说"我朝施恩于喀尔喀，使之防备朔方，较长城更为坚固"。乾隆也认为，"自秦人北筑长城，畏其南下，防之愈严，则隔绝愈盛，不如来之乃所以安之"。事实证明清朝在北部边事方面以安抚为主的策略方针是完全正确的。