1368年1月23日，元朝至正二十八年，明太祖朱元璋統一南方，建立明朝，之後派遣徐達領兵北伐中原，進攻元朝首都大都。

此時的元朝皇帝是元惠宗，在明朝大兵壓境的情況下，9月10日元惠宗率領三宮後妃、皇太子、皇太子妃以及大小官員百十餘人，開大都的健德門，撤退北走上都。9月14日，明軍從大都的齊化門攻城而入，監國淮王帖木兒不花，中書左丞相慶童，平章迭兒必失、樸賽因不花，右丞張康伯，禦史中丞滿川等人拒絕投降而殉國，元朝在中原的統治結束，回到本土蒙古草原。

此時的元朝仍控製著中書省的西部地區、嶺北行省、遼陽行省、甘肅行省、陝西行省，以及位於西南的飛地雲南行省等省份，仍保有一定的力量，與明朝形成南北對峙，這是中國曆史上又一個南北朝時期。

元惠宗撤離大都後，繼續使用“大元”國號。經過與明朝的幾次戰爭，北元先後失去幾十萬兵力，再也無力南下與明朝相爭，元惠宗試圖恢複中原故土的企圖徹底失敗。元惠宗死後，元昭宗即位，立意仿效周宣王姬靜、漢光武帝劉秀等中興帝王一樣中興大元，恢複元朝在中原的統治。

但元朝已經屬於強弩之末，在明軍六次北伐的強大攻勢下，元朝在軍事、經濟方麵遭受了巨大損失，徹底喪失了與明軍爭奪天下的實力和信心。對於明朝而言，蒙古已經成為了“邊患”，而不再是前一個中原王朝的殘餘勢力。

元昭宗去世，其弟元天元帝脫古思帖木兒繼位，繼續和明朝對抗，屢次進攻明朝邊境，但都掀不起多大的浪花。

1388年也速迭兒用弓弦縊殺了元天元帝篡位稱汗之後，蒙古開始逐漸分裂為東部韃靼（蒙古本部）、西部瓦剌、韃靼東部兀良哈三大部落。