历史发展必然要求承元而建立的明朝对祖国的东北边境黑龙江、乌苏里江流域包括库页岛进行有效的管理。太祖时期，以纳哈出为代表的一支元朝残余势力还十分强大，盘踞在辽东一度隔绝了明朝与黑龙江和乌苏里江流域地区的联系。明太祖击败纳哈出，设置辽东都司，促使东北地区环境安定，为永乐时对辽东以北地区的招抚和奴儿干都指挥使司的建立创造了条件。永乐七年（1409年），明成祖正式宣布设立奴儿干都司，这是明朝对黑龙江、乌苏里江流域进行直接管理的地方行政机构。
奴儿干都司的范围西起斡难河（俄罗斯鄂嫩河），东至库页岛，北达外兴安岭，南濒日本海，所辖地盘广袤辽阔。奴儿干都司的首府设在黑龙江下游东岸亨滚河口的特林（俄罗斯蒂尔城），成祖任命康旺为从二品都指挥同知，王肇舟为正三品都指挥佥事率常备军3000人镇守和管理奴儿干地方。
奴儿干都司下属的卫所共有180余个，如囊哈儿卫设在库页岛上，兀的河卫设在乌第河，斡难河卫设在鄂嫩河上，古里河卫设在外兴安岭南麓，双城卫设在双城子（俄罗斯乌苏里斯克），其它的喜乐温河卫、木阳河卫、通宽山卫、阿真河卫等都设在海参崴的周围。奴儿干都司下的卫、所官多由东北各民族的酋长担任，各卫所所管辖的范围由明朝审定批准，奴儿干都司及其下属卫所都无一例外地执行来自明朝的政策和法令，按时缴纳贡赋。遂使自古以来与中原地区关系密切的整个黑龙江、乌苏里江流域的政治、经济、文化、宗教信仰和风土人情都表现出中国固有的传统。