1271年，元世祖忽必烈在滅亡金朝之后，又迫使朝鮮半島稱臣，志得意滿之下定都于大都(北京)。他即位后很快開始進攻日本。

忽必烈對日本有著明確的政治目的。第一，自唐代最后一代遣唐使之后，日本已經數百年未通中國，如果日本向忽必烈表示臣服，有助于增加元帝國的權威性，對忽必烈鞏固權力頗為有利;第二，當時元帝國正在對南宋發動最后的進攻，而日本是南宋的重要貿易伙伴。從切斷其外援的角度，獲得日本的臣服頗為重要。第三，元軍征服朝鮮半島后，高麗“三別抄”軍發動起義，曾尋求日本方面的支持，忽必烈感到了鐮倉幕府對自己的威脅。

1275年，元軍第一次進攻日本的戰役打響了，元軍選擇的進攻地點是最近的北九州地區。

首先遭到攻擊的是日本與朝鮮半島間的門戶對馬島。農歷十月初三，元軍從朝鮮半島的合浦，即今鎮海灣馬山浦悄然出擊，六日凌晨突然出現，成功登陸對馬島。元軍全殲島上日守軍，攻占對馬島。接著，于十四日發動對壹岐島的攻擊，戰火開始燒近日本本土。十六、十七兩日，元軍開始攻擊日本本土，在九州松浦、平戶等地進行多點襲擾性登陸。二十日，這次戰役中兩軍最大的決戰在博多灣發生。此一戰，十萬日軍全軍崩潰，放棄博多等地，逃往北九州的首府太宰府。

戰爭的轉機在不經意間出現。元軍在追擊日軍的時候有些得意忘形，實際在前方指揮作戰的左副元帥劉復亨位置一度突出陣前。日軍大將少貳資景是一名神箭手，見此情景返身一箭將其射傷。

盡管進展順利，但因為主帥受傷，元軍決定停止追擊，撤回船上休整，第二天再次進攻。對日軍的戰斗力元軍沒有看在眼里。他們沒有想到，這一去，就再也沒有能夠回來。當天夜里，北九州正好受到了一次臺風的襲擊，心驚膽戰的日軍守候一夜之后，第二天早上驚訝地發現海面上連一條元軍的船都不見了。

第一次東征日本，元軍因大風造成大批船只失事，據稱溺斃、失蹤一萬三千余人，損失慘重，被迫中止。

感到雙方矛盾無法調和的鐮倉幕府態度十分強硬，在1275年和1279年兩次將忽必烈的使臣杜世忠、周福等斬殺。蒙古貴族上層對此極為震怒，忽必烈為了維護自己的權威，1281年第二次出兵討伐日本。這一次，忽必烈出動兵力約15萬人，是當時世界上史無前例的大型艦隊。然而，這次的作戰進展比第一次要艱難得多。元軍兵分兩路，主力江南軍約十萬人因種種原因直到七月才抵達日本海岸，而東路軍約5萬人則循舊路再次登陸北九州。兵分力散的元軍因為受到日本沿海防御工事的阻礙，尋找登陸點便花費很多時間。登陸后，又遭到早已有備、裝備訓練都得到很大提高的日軍的截擊。傷亡較大，加上疫病橫行，元軍前進速度十分緩慢。

農歷七月三十日，在海上徘徊許久的元軍再次遭遇臺風，這一次的損失更為慘重，特別是遲遲方到的江南軍因為倉促建造的戰船質量低劣而幾乎全軍覆沒，東路軍損失也幾乎達到七成。元朝的第二次對日征討再次失敗。

以后，雖然忽必烈還計劃過第三次征討，但因形勢所限，最終沒有實施。