明朝在朱元璋的率领下于洪武元年(1368年)攻破元大都,灭了元朝。消灭元朝后,明的统治还面临着重 重危机,这主要来自于西北与东北元朝势力的残余。朱元璋将进攻的重点先放在了西北及北部地区,于洪武三年统一了西北地区,稳定了统治秩序。随后朱元璋立即开展对东北地区主要是纳哈出率领的元朝残余势力的剿灭活动。
当时元朝在吉林地区的最大头目是纳哈出。此人是成吉思汗时期四杰之一木华黎的裔孙。1368年,元朝溃逃蒙古草原,建立"北元"政权,继续与大明王朝对抗。纳哈出凭借雄厚的军事力量成为北元的丞相和太尉。率领数十万大军盘踞于金山(今吉林省双辽县东北)辽河北岸一带,以元的国号继续与明朝进行对抗。明太祖采用招抚与用兵两种手段,希望尽快统一东北地区。但是纳哈出自恃兵强马壮不理会朱元璋的招抚,反而扣押前来游说的使臣,无奈之下明朝只得派重兵前来讨伐。明朝先是派出马云、叶旺出任都指挥使,前去辽东地区铲除元的残余势力,使纳哈出孤立无援。纳哈出四处躲避最后逃回金山,势力受到打击,从此有所收敛。
朱元璋本着招抚的原则,从没放弃过对纳哈出的争取,即使在军事上占上风时,也曾写信劝降,朱元璋在信中说道:"人生天地间,能观天地变化之机,知时识势而不失者,乃为杰丈夫。古人有云:活千人者,其后必封,尔为元臣忠则忠矣,何苦违天道,昧人事,而失德若是耶……今尔与朕守边将士,旌旗相望,略较胜负,彼此相当,矢石之下,罹害者众,然以往之事不咎,未来者可不思乎?自今以往,若通一介之使,雪前日之愆,朕亦不较,不然必致生缚。于此之时,何面目以见朕。"
朱元璋的劝降之话可谓入情入理,不仅对纳哈出此人给予高度赞赏,同时又分析了现实的形势,并作出保证一旦归降,必定不计前嫌加官晋爵。纳哈出对朱元璋的招抚政策并不是无动于衷的,由于军事上的节节败退,他也曾想过归顺明朝,但是此人又常抱有侥幸心理,认为自己所处地理位置优越,兵强马壮可与之一搏,所以纳哈出一直在投降和继续战斗之间犹豫不决。
在加强心理攻势的同时,明政府对纳哈出的军事进攻也准备就绪。直到洪武二十年(1387年)正月,朱元璋派冯胜为征虏大将军,率军20万出征东北,逼近纳哈出的老巢,纳哈出自知实力不敌,最终率余部向明朝投降。随同纳哈出投降的故元官吏、将校多达3000余人。这说明,元政权崩溃后,相当一部分故元将吏退入东北,聚集于纳哈出麾下。因而,纳哈出的归降,不仅为明朝统一东北地区清除了重大障碍,也是从整体上对故元势力的一个沉重打击。朱元璋也履行自己的诺言,优待纳哈出为首的元朝残余势力。九月,纳哈出率领余部来到明都城受降,朱元璋"抚慰甚至,赐一品服,封为海西侯","食禄两千石"。看到一直与明朝抗争的纳哈出已然投降,聚集在东北地区的其他地方势力也纷纷投降,接受明朝封赏,至此,明朝将元朝盘踞在东北的残余势力也都消灭殆尽。
明军在今吉林省境内打败和招降纳哈出部后,继续进军捕鱼儿海子,消灭了固守在那里的元朝残余势力。至此,元朝在东北的余部势力全部瓦解,明王朝初步确立了在东北的统治。后在东北设置了辽东、大宁、努尔干三个都司,下辖四百余卫。吉林地区大部分均属努尔干度司辖区。