洪武二年，着眼于长远利益的朱元璋又派杨栽等七人出使日本，并亲自写了一封措辞严厉的信威胁"倭寇"。接到信后，日本国的怀良亲王大怒，斩杀明使五人，其他的悉数扣留，朱元璋的这一次交涉毫无成果可言。洪武三年三月，不死心的朱元璋又派莱州府同知赵秩等再次出使日本。赵秩经过一番惊险的周旋和唇枪舌剑后，终于软化了怀良亲王的立场。怀良亲王派和尚祖来捎带了大量的贡马和土特产向明朝"奉表称臣"，而且还送还了七十多个被倭寇抓去的中国人。朱元璋十分高兴，在皇宫设宴款待日本来使，并赏赐了大量的财物。考虑到日本人普遍信仰佛教，朱元璋还派了八个和尚护送祖来回国。但是朱元璋对当时的日本缺乏最起码的认识，他高估了怀良亲王的影响力，怀良亲王只是一个亲王而不是国王，他的意志并不能代表整个日本国的意志，那么当时最有势力的日本国王是怎么想的呢？说来还真是凑巧，这位仁兄的想法正好与怀良亲王相反，他并不认为跟中国交好是一件多么急切而急需解决的事。于是这次曾给朱元璋带来希望的交涉就这样再次搁浅。
后来日本国也有一些零零散散的朝贡，但因为这些多是地方实力派官员贪图大明朝的赏赐而搞的私人活动，没有正规的表文和印信，所以朱元璋都不怎么搭理。洪武十三年，日使再次来贡，情况同前几次一样也是没有表文，但带了一封日本征夷将军源义满的奉丞相书，文章写得极其嚣张，朱元璋看后很不开心，便拒绝了日本的朝贡。
