1368年，朱元璋在南京稱帝。在尚未完全統一的情況下，明朝即開始大規模的外交活動，1369年，朱元璋派遣使節持詔書分赴東亞海域各國，同時把日本、高麗、占城、琉球等十五國列為“不征之國”。新生的大明王朝對外傳遞的和平友好姿態很快獲得了積極反響，占城、爪哇、渤泥、高麗、琉球、三佛齊、暹羅等二十幾個國家和地區紛紛前來入貢，加入以大明王朝為主導的冊封朝貢體系。

唯一例外的是日本。出于對國內外安全大局和傳統友誼的考量，立國之初朱元璋就高度重視與日本的關系，并為此傾注了大量心血，可惜事與愿違，在他有生之年并沒能親見其成。

而朱元璋過世后不久，中日關系就出現了轉機。十五世紀初，日本多次主動遣使奉表來朝，中日關系迅速升溫，終于水到渠成。然而這前后二三十年間，日本對明朝的態度前倨后恭，經歷了戲劇性的變化。

明朝建國后，國內外環境十分嚴峻，除了北方還存在元朝殘余勢力的威脅外，周邊國家因曾受元朝武力征討而心有余悸，對剛成立的明朝充滿警覺，而中日關系尤其緊張。

此前百年間，中日基本處于敵對狀態。在滅了南宋之后，忽必烈先后于1274年和1281年兩次對日本海上用兵，使自隋唐以來一直密切友好的兩國關系由此交惡，日本對中國的態度由先前的敬仰崇拜轉為敵視。蒙古入侵也間接引發了日本國內的危機，隨著鐮倉幕府滅亡，大量武士淪為浪人，其中一大部分成為倭寇，勾結中國海盜和不法商人流竄到東南沿海劫掠作亂，成為明代東南海上一大禍害。朱元璋即位后迫切與日本恢復邦交，一大原因也是希望兩國攜手消除“倭亂”，維護東亞海域的和平與穩定。

洪武二年(1369年)，朱元璋派楊載攜詔書出使日本，通告洪武登基的消息，同時譴責倭寇騷擾我東南沿海，命日方嚴加取締并早來稱臣朝貢，否則將出師討伐云云，口氣相當強硬。由于對當時日本國情缺乏了解，此次遣使遭遇重大挫折。

楊載一行按照傳統的赴日航線，從寧波出發后在日本九州上岸，本應送到京都天皇朝廷的詔書，卻落入九州懷良親王手中。此時，正值日本南北朝時期。九州是南朝的勢力范圍，由后醍醐天皇之子征西大將軍懷良親王掌控。由于長期戰亂，日本對中國發生的政權更替同樣不明所以。朱元璋充滿威脅意味的詔諭喚起了日本人的同仇敵愾，以為又是一次“元寇襲來”的前奏。執掌九州十年之久軍勢方熾的懷良親王對朱元璋的詔諭嗤之以鼻，囚禁了楊載、吳文華等使臣，斬殺了5名隨員。

首次外交受挫，并沒有使朱元璋放棄進一步的努力。洪武三年(1370年)，他再次遣使日本。此行明朝做了較為扎實的準備，特地選派山東萊州同知趙秩出任使節——因山東沿海是倭亂重災區，以趙秩為正使可以勝任對日交涉禁倭事宜，而且詔諭上也多了委婉之語。這次出使相對順利，懷良親王對明朝的態度有所轉變，其后派遣僧人祖來赴明奉表稱臣，進貢馬匹和方物，并送還被倭寇擄掠的浙江沿海百姓70人。

日本來朝，使朱元璋大為欣慰，但邦交并沒有由此確立，因為明使沒有見到正牌的“日本國王”，兩次三番打交道的懷良親王只是地方首腦，并不能代表日本朝廷。而正在經受南北戰亂的日本也根本無力制止愈演愈烈的倭寇活動，這也令明朝大失所望。此后雙方為打開外交僵局做了種種嘗試，但最終都沒有實質性的突破。

1387年10月，寧波衛所指揮林賢被捕，經審查他與六年前因謀反案被誅殺的胡惟庸有交集，連帶牽扯出前日本使者瑤藏主有資助胡、林謀反的嫌疑，這使朱元璋對日本更加嫌惡，斷然中止一切往來，并全力實行海禁。原本舉步維艱的中日關系雪上加霜。