明太祖北伐成功將元軍趕出了長城以北地區，並未趕盡殺絕。元朝的殘存勢力雖然經常互相殘殺，有時強盛有時衰弱，但一直侵擾明朝的邊境，企圖捲土重來。因此，明朝自建國起，其國防就一直以北方邊鎮最爲重要，而有明一代，北方的邊患也從未停止過，直到亡於李自成。
洪武年初，朱元璋即在北方設遼東〔今遼寧遼陽〕、大同、宣府〔今河北宣化〕、延綏四鎮，不久又設寧夏、甘肅〔在張掖〕、薊州〔今天津市薊縣〕三鎮，其鎮守爲武職大臣，提督則爲文職大臣。又以山西鎮巡統馭偏頭三關，陝西鎮巡統馭固原，也稱爲太原、固原二鎮，這九鎮統稱“九邊”。九邊東起鴨綠江，西到嘉峪關，綿延萬里。
朱元璋又在長城以北建立大寧衛〔今凌源〕、開平衛〔今內蒙古多倫〕、東勝衛〔今內蒙古呼和浩特〕三個軍事重鎮，作爲九邊的外圍據點。於要害之地，如紫荊關、蘆花領、古北口、居庸關、喜峯口、鬆亭關等處，也都置兵戍守。於是東起遼陽，西經大寧、開平、興和、獨石、東勝，抵大同，數千裏間，各邊鎮衛所都駐軍隊、開屯田，聲勢相連，形成了一條牢固的防務線。
其中，山海關乃關內外交通樞紐，地勢最爲重要，女真興起後，以此地駐兵最多，設總兵和經略負責鎮守。駐守邊鎮的軍隊稱爲邊兵，總兵官總鎮正兵，副總兵領三千人作爲奇兵，遊擊 也領三千人往來防禦
，爲遊兵，恭將分守各路要塞，東西互相策應，爲援兵。永樂年間，成祖自動放棄大寧衛，把大寧所轄邊地賞給兀良哈，從此北邊失一重鎮，遼東與宣府、大同的聯絡也因此阻絕。成祖又徙東勝左衛於永平，右衛於遵化，宣宗更因開平衛孤遠難守，徙於獨石，三衛盡失，邊防的形勢大爲削弱。以前是邊防第二線的宣府、大同也逐漸變爲最前線的要塞了，北方的國防線因此步步南移。不過成祖對邊防還是相當重視的，自宣府以西，直至山西邊緣，“皆峻垣深壕，烽堠相接”，凡通車馬的隘口，設百戶防守，只有樵夫牧民的隘口，也安置邊兵十人戍守。英宗正統元年，因爲寧夏所轄的屯堡均在河外，曠遠難守，由總兵史昭建議，在花馬池築哨馬營，以便策應。憲宗成化七年，延綏巡撫餘子俊大築邊城，東起黃甫川，西至定邊營，共一千二百餘里。而在牆內，自偏頭至寧固，塹山堙谷，稱之爲夾道。這些邊城，非常堅固，守衛的將士也英勇頑強，北人稱之爲駱駝城，一時之間，西北防務頗爲振飭。
