公元1260年蒙古汗国的开创者成吉思汗的孙子忽必烈在开平（今内蒙古正蓝旗）即大汗位，在这里他接受汉族幕僚的建议：颁布即位诏书，称皇帝，以示自己的正统王朝统治者身份。忽必烈的政治志向远超其兄蒙哥、其父托雷：他企图变革蒙古汗国的国家体制——他不仅要做蒙古帝国的大汗，还要做中原正统封建王朝的合法继承人。此后由于权力和意识形态之争忽必烈与幼弟阿里不哥进行了长达四年的汗位争夺战，阿里不哥最终认输。此后忽必烈又经过四年的筹备开始南图以汉人为主体民族的南宋。
公元1264年忽必烈汗将蒙古帝国的首都从和林迁到燕京（今北京，原金朝中都，金亡后改称燕京），后又改名大都，从此大都正式替代和林成为元朝多民族国家的政治、经济和文化中心。其旧都和林成为元朝陪都，同时也是元朝岭北行省（辖区包括今西伯利亚大部、蒙古国、中国内蒙古自治区、黑龙江省各一部）治所所在。1271年11月忽必烈接受汉族幕僚的建议按《易经》中的“大哉乾元”之意建国号“大元”，继续推行汉法，任用汉族官吏。
此时的忽必烈已清醒地认识到：单纯依靠弓马骑射是无法统治包括繁荣富庶的中原在内的辽阔帝国，即使能短暂建立起属于自己的统治，也难以长久。但此时的蒙古帝国已然出现分裂迹象：窝阔台、察合台、拔都和旭烈兀相继建立窝阔台汗国、察合台汗国、钦察汗国和伊尔汗国四大汗国，尽管名义上忽必烈不仅是元朝皇帝，也是整个蒙古帝国的大汗，然而实际上四大汗国自行其是，并不买忽必烈的账。对忽必烈行汉法之举四大汗国中除了忽必烈的亲弟弟旭烈兀建立的伊尔汗国全都持反对态度。无论是作为蒙古大汗，还是中国正统王朝的帝王，忽必烈都有足够的自负理由：早在他的祖辈、父辈时就以确立了蒙古的辉煌，从生下那天起忽必烈一生的征战岁月就已注定。
公元1266年四川开州被攻陷，但次年就被宋人收复。尽管忽必烈越来越倚重自己的汉族幕僚，但对他们始终难以完全放心，于是他下诏省、院、台、部、宣慰司、廉访司及部府幕官之长均用蒙古、色目人，但第二年又花重金敕修山东曲阜的孔庙——忽必烈的心情是矛盾的。就在蒙古军团攻陷开州这年忽必烈在大都接见了从威尼斯远道而来的马可·波罗一行，由此忽必烈得以了解到西欧的风土人情。忽必烈还在军务的间隙给罗马教皇写了一封信：要教皇委派一百位传教士来中国传授基督教义和西方科学。
此时的忽必烈已立志开创远迈汉唐的丰功伟业，但他的雄心壮志却因为南宋这块难啃的骨头被暂时搁浅。就在这时忽必烈的御前顾问告诉他：除了南宋之外，还有一个地方没被征服——那是一个岛国，这个岛国在大唐鼎盛时期曾挑战过大陆皇帝的权威，战争发生之地就在已沦为蒙古附庸的高丽境内并且这个国家与宋一直保持着良好关系。这个国家在高丽人和汉人幕僚的口中被称为倭国。事实上在此之前忽必烈压根就不知道世界上还有这么一个国家——证据就是早在公元1260年3月忽必烈就曾给高丽国王发出一份诏书，其中有这样一句话“今也，普天之下未臣服者，惟尔国与宋耳。”可见此时的忽必烈还并不知道日本的存在，直到公元1265年高丽人赵彝向忽必烈建议：“日本国可通，择可奉使者。”
赵彝出生在高丽咸安（今属韩国庆尚南道），咸安与日本隔海相望，赵彝通晓数国语言，他来到大都后得到了忽必烈的信任。赵彝向忽必烈介绍了宋、日之间交往的频繁和密切程度，事实上这种交往仅仅停留在民间贸易范围内，宋、日之间并没结成政治军事联盟。不过在那个交通资讯极不发达的年代由于信息不对称的缘故，忽必烈很难清楚知晓宋日交往的真实情形，对道听途说的情况只能本着宁可信其有不可信其无的态度对待。更何况忽必烈内心同时具有的传承自成吉思汗的扩张征服野心和倾心汉化后矢志创建远迈汉唐之伟业的欲望也促使忽必烈要将自己所知的地方全部置于自己的控制之下，这样就能在汉人心目中树立自己作为正统王朝的形象，与此同时对日本的控制意味着蒙古由传统的陆权帝国开始向海外进军扩张，其意义不可估量。
公元1266年8月元世祖忽必烈派兵部侍郎黑的为国使前往高丽，然而黑的使团此行的最终目的地并非高丽，而是和高丽隔海相望的日本。忽必烈希望高丽配合蒙古朝廷说服日本遣使入贡，对此高丽的态度极为矛盾：此时的高丽经过蒙古连续三十年的打击和削弱，已被忽必烈彻底征服；与此同时高丽常年遭受日本海盗的侵袭。
这一时期的日本海盗可以视为早期倭寇——他们由日本对马、隐岐、肥前等地的渔民和农民组成，在粮食歉收的时候他们就会武装起来乘船到朝鲜半岛南部沿海劫掠米粮：公元1223年即蒙古军团几乎把金国在黄河以北所有领土侵蚀殆尽那年在高丽南部的金州发生了倭寇大肆抢掠的轰动事件，这种不间断的骚扰行为一直持续到公元1263年。公元1227年高丽向日本大宰府遣使要求日本官方查禁倭寇。大宰府次官武藤资赖曾当着高丽使节的面斩首九十名倭寇，但由于产生倭寇的土壤没能根除或者说当地人的生计问题没能得到改善，倭寇对朝鲜半岛的侵扰始终没能停止。
公元1263年倭寇再次来袭并掠走高丽漕运船上120石谷物，而已不再相信日本朝廷的高丽政府在未知会日本当局的情况下径直派人进入日本对马岛收回了被掠走的物资。另一方面从公元12世纪后半叶~13世纪后半叶近一个世纪的时间里日本对马岛和高丽几乎是在进行“进奉贸易”——缺乏耕地的对马岛为获取经济利益而向高丽王室进奉朝贡物品，获得心理满足的高丽则下赐对马岛相当于贡品几倍的货物，这实际上是日本地方政府对高丽政府的朝贡贸易。这种模拟中国与藩属国的交流模式使日本和高丽之间保持着相对平稳的关系。直到后来元日关系破裂，忽必烈打算出兵日本并要求高丽配合时日本对马岛进奉贸易船只还曾到过高丽金州，庆尚道安抚使担心两国来往被忽必烈知道，于是暗中让日本船只原路返回。尽管倭寇袭扰令高丽不胜其烦，但高丽政府也慢慢意识到：倭寇行为并不是日本官方支持认可的，虽然日本幕府有暗中纵容的嫌疑，但高丽还是不愿因为蒙古和日本之间的冲突而被动卷入一场大战之中。
到访高丽的黑的使团携带有忽必烈给高丽国王的诏书：“今尔国人赵彝来告：日本与尔国为近邻，典章政治有足嘉者，汉唐以下抑或通使中国。故今遣黑的等往日本，欲与通和。卿等异达去使，以彻彼疆，开悟东方，向风慕义。兹事之责，卿宜任之，勿以风涛险阻为辞，勿以未尝通好为解。恐彼不顺命，有阻去使，故托卿之忠诚，卿其勉之。”然而《元史》中却记载黑的使团最终“未至而还”，使节提出的借口恰恰就是“大洋万里，风涛蹴天”，而关于这点忽必烈在诏书中已提前警告：“勿以风涛险阻为辞”。
原来黑的使团到达高丽后高丽国王派遣枢密院副使宋君斐、礼部侍郎金赞等人与其同行，但黑的等人到达巨济岛后返回高丽，最终到达日本的是高丽使团。黑的使团之所以半途折回是因为高丽人告诉他们海上风浪危险，高丽宰相李藏用的一封信更是起到推波助澜的作用：李藏用在给使团的信件中极言日本此等“蠢蠢小夷”“骄傲不识名分”“欲舍之则为大朝之累，欲取之则风涛险阻，非王师万全之地”，只要“至则奖其内附，否则置之度外”——顺其自然即可，不必在这个小邦身上耗费过多精力。即使退一步讲皇帝陛下决心通使日本，高丽也愿充当马前卒，不必上国天使亲赴。从没见过海上风浪的黑的使团原本就对日本之行心怀畏惧，无奈皇命难违，如今见高丽人愿代为效劳自然乐见其成。
高丽人一番忽悠将黑的使团劝了回去，但忽必烈那边必须得有个交代，高丽只好自己向日本派出使臣。高丽使臣到达日本后除了向见面的地方官传达忽必烈的诏命外，还带着高丽国王的一封亲笔信，信中是这样写的：“如果高丽人和蒙古人一起访问日本的话，贵国会怀疑高丽，但这并不代表高丽的意愿，而是迫于蒙古的命令不得已而为之。“高丽这种敷衍行为自然不可能实现令日本遣使入贡的目的，日本幕府仅仅只是安排大宰府地方官接见了高丽使节就匆匆打发他们离开，由始至终高丽使团连日本幕府中枢官员的面都没见到。
这样的结果自然令忽必烈大为恼火，于是他在公元1267年夏给高丽国王下发了一封措辞严厉的诏书斥责作为属国不仅不协助朝廷使节，反而从中作梗百般阻挠。黑的再次率团前往高丽，忽必烈严令高丽国王必须遣使配合黑的等人一同前往日本。黔驴技穷的高丽国王只得故技重施——硬着头皮再次以”海道险阻，不敢辱天使“为由让高丽大臣潘阜等持忽必烈签发的牒状及高丽国王书前往日本。潘阜使团在公元1267年11月到达日本对马岛，次年正月辗转来到九州将蒙古牒状和高丽国书一并交给日本大宰府。在大化改新通过效法唐朝建立起律令制国家后大宰府是天皇朝廷派驻九州掌管对中国和朝鲜半岛外交事务、军务及九州政务的官署，是名副其实的”天皇之远廷“。随着幕府时代的到来以天皇为核心的律令制国家日益衰败，大宰府的对内职能有所削弱，但一旦有涉外事务发生，由于其特殊的地理位置，其对外窗口的职能便凸显出来。
高丽使团希望日本方面能尽快作出答复。不过当地官员可不敢擅自决断这种破天荒的外交大事，他们甚至无权拆看国书内容，只好将国书送往镰仓幕府。幕府执权北条时宗立刻召集自己的重臣高官们紧急磋商，当他们打开国书后不禁大吃一惊，首先令他们吃惊的是：他们原本以为蒙古文字晦涩难懂，结果拆开一看全是汉字，对当时的日本上层人士而言汉字是他们的必修课。当他们读完国书之后更加震惊了，原来这份国书是这样写的：大蒙古国皇帝奉书日本国王：朕惟自古小国之君，境土相接，尚务讲信修睦。况我祖宗受天明命，奄有区夏，遐方异域畏威怀德者不可悉数。朕即位之初以高丽无辜之民久瘁锋镝，即令罢兵还其疆域，反其旄倪。高丽君臣感戴来朝，义虽君臣，欢若父子。计王之君臣亦已知之。高丽，朕之东藩也。日本密迩高丽，开国以来亦时通中国，至于朕躬而无一乘之使以通和好。尚恐王国知之未审，故特遣使持书布告朕志，冀自今以往通问结好以相亲睦。且圣人以四海为家，不相通好岂一家之理哉。以至用兵，夫孰所好，王其图之。不宣。
忽必烈在诏书一开头就以小国称呼日本，最后更是以”以至用兵，夫孰所好，王其图之“结尾即朕不愿对日兴兵，但迫不得已时还是会这么做。看到这份国书的日本人一头雾水：什么是大蒙古国？该国何以能使”遐方异域畏威怀德者不可悉数“？这一切又是何时发生的事？至于国书开头对日本最高统治者称呼为”日本国王“——尽管在日本国内天皇早已成为幕府的傀儡，但外人竟以明显低于”皇帝“的”国王“称呼，这种赤裸裸的降格又怎能让幕府高层接受？国书中对日本”自古小国“的称谓无法避免地伤害了幕府高层的自尊心。
在蒙古帝国的历史上忽必烈是一个承前启后具有转折意义的人物：他既是蒙古大汗，同时又是按汉制建立的大元王朝的皇帝。一方面他和祖父成吉思汗一样渴望征服世界；另一方面他也仰慕汉唐遗风，希望在征服土地的同时也进行建设。然而在和南宋的战争中蒙古军团屡屡碰壁，忽必烈改弦易辙——招降吐蕃，又南下征服大理、越南、占婆等地，东北方向的高丽也沦为蒙古附庸，至此忽必烈大体完成了对南宋的战略包围——除了东面的大海，在海的另一边是日本。
如果能有效控制日本，大元帝国的声威将远播海外，控制海道坐地生财。可蒙古一直是一个强大的陆权帝国，对海洋蒙古人是陌生的——在攻打高丽时面对距离海岸线仅仅一公里的江华岛都无计可施，更何况要横渡茫茫东海征服比江华岛大得多的日本列岛呢？再则和南宋开战在即，忽必烈也实在没精力再分身和日本开战。在这样的局势下忽必烈选择向日本遣使，希望向日本宣扬大元帝国的强大以实现不战而屈人之兵——既然一时无力完全征服日本，那么至少也用令其遣使入贡以扩大元帝国的国际影响力。
在附属国高丽的配合下忽必烈的国书被送达日本，当时日本的实际统治者——镰仓幕府面对这一突如其来的变故一筹莫展，于是以不敢擅自做主为借口，将忽必烈的国书上奏京都朝廷。京都公卿们的闭塞程度比镰仓幕府有过之而无不及：自终止遣唐使以来三百余年间日本从未与外界建立过正式的官方关系，就连民间贸易也局限于和高丽、宋朝之间——靖康之变后百余年间日本船只从未到访过一次金国，更别提比金国更偏远的蒙古了。偏安数百年的日本对亚欧大陆上发生的风云变幻不仅没有清晰的了解，甚至也懒得去了解。
京都的天皇朝廷看到这份国书后大为震惊——关白近卫基平在日记中如此形容当时京都朝廷的反应：“此事，国家之珍事，大事，万人惊叹无外”，公卿们公认此乃“当世天下无双的大事件”。朝廷公卿们意见不一——尽管他们对“大蒙古国皇帝”呼日本天皇为“国王”表示愤怒，视为非礼，但也只是在这一点上有共识。一部分人认为国书有无礼之处，不应给予回复。但朝廷参议藤原长成还是草拟了一份和解国书并寄给幕府。但十八岁的镰仓幕府执权北条时宗拒绝批准。奉忽必烈之名前去送达国书的高丽使团滞留日本半年后空手而归。
随着对大陆方面的了解日渐增多，日本方面逐渐意识到事态的严重性。这时日本国内原本就存在的京都朝廷和镰仓幕府之间的矛盾也在外部压力下表露出来——京都朝廷准备在这场危机中有所作为：天皇下令各大寺庙神社修法“降伏异敌”，他所能做到的也仅此而已；与此同时镰仓幕府通报关西、九州、四国等地的武士：“蒙古人插凶心”，有窥伺日本之志，要提高警惕，做好各自辖区的防备工作。这就是日本在获知蒙古威胁后所做的所以筹备，这种仅仅只是象征意义的动员让日本在几年后吃尽苦头。
高丽宰相李藏用奉命来到大都向忽必烈解释。此时忽必烈已有征讨日本的清晰计划，于是对李藏用说：“尔等不知出军将讨何国，朕欲讨宋与日本耳。今朕视尔国犹一家，尔国若有难，朕安能不救乎？朕征不逊之国，尔国出师助战亦其分也。尔归语王：造战舰一千艘，可载米三四万石。”李藏用预感到战争已无法避免，但还是极言高丽国内已到了兵穷财尽的地步，不能按规定交付船只，但他的辩解毫无用处，最终不得不答应忽必烈的要求。公元1868年8月高丽国王上奏忽必烈声称：经多方征调仅得万人，但船舰等已委沿海州郡营造千艘。大都方面在10月派出人员对高丽的征兵造船情况进行视察，他们还巡视了全罗南道，意在考察地形，以便他日选择出征日本的前沿基地。
此时忽必烈的战略中心还是在中国大陆和南宋的战争上，所以还是尽可能希望通过和平手段解决日本问题，由于高丽多次虚与委蛇和从中阻挠，他也许根本不相信“日本国王”见过自己的国书。公元1268年9月在高丽人潘阜陪同下大蒙古皇帝的代表黑的使团终于第一次踏上日本领土。他们的运气比之前的高丽使团更坏——甚至不被允许滞留日本。在返国途中担心无法向忽必烈交差的黑的等人顺道袭击了对马岛，抓获两个渔民：一个名叫塔次郎，一个名为弥次郎。这两位本来默默无闻的小人物因此将自己的名字留在中国、日本、朝鲜三国史籍之中。不仅如此，他们还做了一次高规格的海外旅行：在大都他们受到忽必烈的热情款待，还战战兢兢地游览了雄奇壮丽的宫殿，最后经高丽返回日本。忽必烈的目的是：希望通过这两个渔民向日本传达和平信号，他不认为自己真有必要对这个海上小国大动干戈，也许只要秀秀肌肉吓唬吓唬即可。
不过忽必烈未免太高看两个渔民的能力了，镰仓幕府在二人回国后甚至都没接见他们，更别提从他们那儿了解蒙古的意图了。京都的天皇朝廷倒是给出了回复：“案其事情，蒙古之号于今未闻......（两国）外交中绝，骊迁翰转，奥传乡信，忽请睦邻......抑贵国曾无人物之通，本朝何有好恶之便。不顾由绪，欲用凶器；和风再报，疑冰犹厚。圣人之书，释氏之教，以济生为素怀，以夺命为黑业。何称帝德仁义之境，还关民庶杀伤之源乎？故以皇土永号神国，非可以知竞，非可以力争，难以一二，也乞思之。”这份用词考究的回复由京都朝廷的文章博士亲自起草，试图对“大蒙古国皇帝”动之以情、晓之以理，并没任何有损国体之处。但即使是这样一份温和的回复再次被镰仓幕府否决。受此影响，为答谢高丽人送还日本渔民而以“日本大宰府守护所”的名义发给“高丽庆尚道安东道按察使”的一封感谢信也被停止发送。
幕府的强硬态度很难说有什么现实依据，摆出这样的姿态后也并没什么像样的对策。事实上镰仓幕府之所以一再否决对蒙古方面的回复很大程度上并不是在考虑日本和蒙古的国交问题，而是出于对日本国内异己势力的忌惮——此时的日本政体是奇葩中的奇葩：名义上这个国家的最高统治者是天皇，但实权却掌握在由武士阶层建立的镰仓幕府手中；而在镰仓幕府内部北条家族通过执权这一位置架空幕府将军而获得本家在幕府中的领导地位，但却始终没能力最终取代幕府将军成为武士集团在法律意义上名正言顺的“主公”。本身地位的不稳固意味着异己势力极有可能利用外部压力对其进行颠覆，这就使北条家在处理这种破天荒开先例的外交事务时不得不慎之又慎。由于此前从未有处理外交事务的经验，以北条家为核心的镰仓幕府在这一问题上基本采取走一步算一步——不明确回复任何问题的策略加以应对。
日本幕府的态度令忽必烈越来越失去耐心：此时蒙古正和南宋进行襄阳之战（这是一场关乎南宋国运的历时六年的攻防战，就是金庸小说《射雕英雄传》中郭靖郭大侠协助防守的那场战役）。公元1270年忽必烈在战争之余在当年的2月和5月两次致书日本，日方依然选择了不予回复。当年年末忽必烈选派汉化的女真人赵良弼赴日。赵良弼在任江淮宣抚使时主张中国应待日本以亲藩之礼，这个建议一度被忽必烈采纳。赵良弼以年迈之躯请行，持书赴日，忽必烈计划派兵三千护送，但赵良弼仅择数十人随从。公元1271年9月赵良弼抵达金津岛，日本人看到蒙古使船便有持刀准备围攻者，赵良弼反而轻装舍舟登陆。在被大宰府官员以“陈兵四山”的方式“保护”起来后有人来“问使者来状”。《元史》记载：“良弼数其不恭罪，仍喻以礼意。太宰官愧服，求国书。良弼曰：‘必见汝国王始授之。’”日本官员回答：“我国自大宰府以东上古使臣未有至者，今大朝遣使至此而不以国书见授，何以示信！”他们要求赵良弼交出国书。但熟知历史典故的赵良弼反问道：“隋文帝遣裴世清来，王郊迎成礼；唐太宗、高宗时遣使皆得见王，王何独不见大朝使臣乎？”
事实上赵良弼和日方官员这番对话双方都是在抬杠——日本自终止遣唐使以来从未与外国建立正式的官方关系，尤其是随着武士政权的崛起之前效法大唐文明建立的律令制度被摧毁殆尽，日本官员所谓的“上古使臣未有至者”是指的武士政权成立后幕府方面从未接待过外国使节；不知赵良弼是不了解日本内情或是故意偷换概念——搬出隋唐时期华夏使节出访日本受到天皇朝廷接待的先例予以反驳。事实上日方最担心的问题是如果蒙古方面当真因为不了解内情而将国书送达京都的天皇朝廷，那么日本国内的反幕府势力就会利用这一事件趁机发难，因此他们强烈要求赵良弼交出国书，而赵良弼在日本逗留了八个月之久就是死活不交。于是这次遣使再次无功而返，日本方面也许以为这只不过是蒙古方面有一次遣使失败而已，不过他们不知道的是下次蒙古将不再派遣使节，而是出动远征大军。
