元顺帝至正二十八年，即明太祖洪武元年（1368年），朱元璋的军队很顺利地攻克元大都（今北京），元顺帝被迫退回“塞北”，元朝结束。元王朝虽被推翻，但其军事实力仍然很强。元顺帝仍把握着完整的政治机构和较为强大的军事力量，并占有东至呼伦贝尔湖，西至天山，北抵额尔齐斯河及叶尼塞河上游，南至现在长城一线广阔的领土。在陕西、甘肃有河南王扩廓帖木尔的十八万人马。在辽东方面有右尉纳哈出指挥下的二十万军队。在云南则有元宗室梁王的一支力量。元顺帝以辽东和陕甘为左、右翼，居中调度，时刻都想收复失地，重主中原，所以在明朝初年，明中央政权同北元还打了几次激烈的大战。

明太祖洪武三年（1370年），元顺帝死，其子爱猷识里达腊嗣位，是为昭宗，仍称大元皇帝。这时明王朝的部队击破了扩廓帖木尔在陕西、甘肃地区的部队，扩廓帖木尔率残部逃至和林。明王朝为消灭掉对中原威胁最大的，盘踞在和林的扩廓帖木尔部队，于洪武五年（1372年）春正月，出动十五万大军分三路进击漠北。大将军徐达为中路，出雁门关趋和林；左副将军李文忠为东路，出居庸关至应昌；征西将军冯胜出金兰取甘肃。这次出击，中路徐达部在杭爱岭北被扩廓帖木尔的部队打得大败。东路李文忠部因不知中路已败退，孤军深入漠北，遭到蒙古军强大袭击后，奋战而回。仅西路冯胜部从金兰（今兰州）西进，打通了河西走廊，设置了甘州、庄浪诸卫，明王朝由此时起，弃敦煌划嘉峪关为界，开始经营河西防务。这次大举进攻漠北，总的来说以失败告终。这次失败使明王朝认识到，就当时的力量是不可能彻底消灭蒙古族军事力量的。明太祖遂放弃武力统一草原诸部的计划，实施战略防御，开始在北方推行设军镇、筑城堡、立卫所、建关隘、置墩台的防戍策略，构筑、经营军事防御体系——长城。(www.daowen.com)

明太祖洪武五年（1372年），宋国公冯胜西征，首筑嘉峪关城。但随着关外吐鲁番的渐次崛起，嘉峪关自建造以来，屡有战事。明武宗正德年间（1515—1522年），吐鲁番满速尔兵数犯河西。当时嘉峪关只是座孤城，以致满速尔兵两破关城，并屡掠附近民众牛羊。加之，随着蒙古亦不刺部西迁，甘肃防务吃紧，明孝宗弘治、明武宗正德年间（1488—1521年）才始议修筑长城之事，而真正的兴筑是在明世宗嘉靖中叶。嘉靖十六年（1537年），巡抚赵载修竣镇番卫（今甘肃民勤）临河墩至永昌卫城（今甘肃永昌县）土垣、沟堑百余里。嘉靖二十年（1541年），修“嘉峪关墙一道，南至讨赖河十五里，北至石关儿十五里，共三十里”（《边政考》卷四）。讨赖河即今北大河，石关儿位于今嘉峪关黑山湖水库东北，这是嘉峪关第一次以正规的城垣工程出现。嘉峪关建成为一座完整的军事防御工程后，关城锁钥边陲，又有明墙暗壁相合，才真正成为固若金汤的天下第一关。嘉靖二十六至二十七年（1547—1548年），巡抚杨博又主持了甘肃长城的三段大规模增建工程。第一段东起五坝堡（今甘肃高台东9千米）沙岗墩，西至九坝堡（今高台西北40千米），绵延于黑河北岸。第二段位于山丹卫境内，东起五泉口奉城铺（今山丹丰城堡），西达大口子东乐驿（今山丹县东乐镇）。第三段东接东乐驿，西至甘肃镇城（今张掖市）西北板桥堡（今临泽县板桥镇）。在这道长城北侧龙首山诸山口还分别修筑了壕堑、墩台或关城。至此，甘肃镇所辖河西走廊段长城基本成型，连为一体。酒泉境内长城的修筑时间，据《肃州新志》记载：弘治十一年至十三年（1498—1500年），参将彭清修筑野麻湾至下古城的“北长城”（时称边墙）35千米，“高一丈三尺，厚五六尺。”嘉靖初，吐鲁番部族侵扰酒泉，嘉靖十一年（1532年），兵备道李涵督修南自讨赖河，北至石关儿的“西长城”17.5千米。嘉靖十八年（1539年），杨博又将“北长城”增筑、重修和补修，全系黄土夯筑，墙高4米～5米，带巡墙，底宽2.7米～3.3米，顶宽1米。明神宗万历二年至四年（1574—1576年），筑成鸳鸯池至镇夷东（即金塔境内）的边壕。同时，边墙内外共筑各路烽火台及守望墩台204座，境内墩设哨兵2名，境外墩设哨兵3～5名，日夜守望不怠。