但是朱元璋对当时的日本缺乏最起码的认识，他高估了怀良亲王的影响力，怀良亲王只是一个亲王而不是国王，他的意志并不能代表整个日本国的意志，那么当时最有势力的日本国王是怎么想的呢?说来还真是凑巧，这位仁兄的想法正好与怀良亲王相反，他并不认为跟中国交好是一件多么急切而急需解决的事。于是这次曾给朱元璋带来希望的交涉就这样再次搁浅。\
后来日本国也有一些零零散散的朝贡，但因为这些多是地方实力派官员贪图大明朝的赏赐而搞的私人活动，没有正规的表文和印信，所以朱元璋都不怎么搭理。洪武十三年，日使再次来贡，情况同前几次一样也是没有表文，但带了一封日本征夷将军源义满的奉丞相书，文章写得极其嚣张，朱元璋看后很不开心，便拒绝了日本的朝贡。洪武十四年日本再次来贡，朱元璋又一次推却，并让礼部写了一封信责备日本国王和他们的那个征夷将军：“王居沧溟之中，传世久长，今不奉上帝之命，不守己分，但知王环海为险，限山为固。妄自尊大，肆毁邻邦，纵民为盗。上帝将假手于人，祸有日矣。吾奉至尊之命，移文与王。王若不审巨微，效井底蛙，仰观镜天，自以为大，无乃构嫌之源乎?”。日本不甘示弱，也回了一封极其强硬的信，而且文采斐然：“臣闻三皇立极，五帝禅宗，惟中华之有主，岂夷狄而无君。乾坤浩荡，非一主之独权，宇宙宽洪，作诸邦以分守。盖天下者，乃天下之天下，非一人之天下也。臣居远弱之倭，褊小之国，城池不满六十，封疆不足三千，尚存知足之心。陛下作中华之主，为万乘之君，城池数千余，封疆百万里，犹有不足之心，常起灭绝之意。夫天发杀机，移星换宿。地发杀机，龙蛇走陆。人发杀机，天地反覆。昔尧、舜有德，四海来宾。汤、武施仁，八方奉贡……”
朱元璋看了这封表文大怒，史载“帝得表愠甚”，但考虑到元朝两次出征日本损兵折将的前车之鉴，朱元璋忍住了这一口恶气。虽然如虎将李文忠者也曾建议朱元璋征日本以雪前恨，但朱元璋在深思熟虑之后还是没有率领大明朝的舟师东渡。
不过这一件事后，朱元璋改变了以往企图交好日本的策略，而改为在内部积极设防，在沿海各地加强防守和卫所建设等，尽量减少倭寇造成的损失。最后他以日本支持胡惟庸造反为由，于洪武二十年(1387年)果断地断绝了跟日本的往来。把日本列为“不庭之国”，永远不准日本来中国贸易，并把这写入了传给后世子孙万世不变的《皇明祖训》中。正是在这同一本《祖训》中，日本还被列入了永不攻打的十五国之一。
