窩闊臺死後，由乃馬真皇后監國，後來由她的兒子貴由做了兩年多大汗。貴由死了，大汗位就傳到拖雷的兒子蒙哥手裡了。
蒙哥做了大汗之後，就讓他的弟弟忽必烈掌管黃河以北的地方軍隊和行政事務。忽必烈從小就有遠大的理想，想幹一番事業。他在早年的時候就受到了中原漢族文化的影響，後來他認識了一批有學問的漢族知識分子，如劉秉忠、張文謙、王鶚、郝經、姚樞等人，他們勸說忽必烈要用儒家思想來治理國家，特別要用“漢法”來治理中原。郝經還說：“誰要是能重用士大夫，又能用中原的統治方法來治理國家，誰就能當中國的皇帝！”這些話對忽必烈影響很大，他決定奪得天下後，一定用“漢法”來治理國家。而正是這些人支持忽必烈奪得汗位的。
忽必烈讓劉秉忠在灤河北岸的龍崗(現在的內蒙古自治區多倫縣西北)，爲他建造了一座新的城市，叫做開平，作爲他的根據地，把他的謀士都召到那兒，開始了在黃河以北的統治。忽必烈用漢法治理漢地，損害了蒙古貴族的利益，也有損於蒙哥的汗位。於是蒙哥奪去了忽必烈的兵權，並派阿蘭答兒、劉太平前去調查。忽必烈聽從姚樞等人的勸告，把妻子、女兒送到蒙哥那裡去當人質，並親自去見蒙哥，說明自己並無野心，蒙哥這才相信了他。
公元1258年，蒙哥發動三路大軍攻打南宋，他自己率領主力攻四川，讓忽必烈攻鄂州(現在的湖北省武漢市)，讓兀良哈臺從雲南打潭州(現在的湖南省長沙市)。正當忽必烈攻打鄂州的時候，忽然傳來蒙哥去世的消息，有人說是病死的，有人說是在指揮攻城時，被飛石打成重傷，回到軍營後死的，反正是死了。忽必烈想攻下鄂州後，再回去奪取汗位，可是這時，傳來阿里不哥要繼承汗位的消息。
阿里不哥是拖雷的小兒子，按照蒙古人“幼小守產”的習慣，在蒙古他們打仗的時候，他就留在蒙古國的都城和林。在阿里不哥的周圍有一批蒙古貴族，他們反對用“漢法”來統治，而主張用蒙古的舊法來統治，因此他們反對忽必烈，而擁護阿里不哥，當阿里不哥聽到蒙哥去世的消息後，馬上任命支持他的人擔任各級官員，並派脫裡赤和阿蘭答兒佔領燕京和陝西一帶，準備阻止忽必烈北上。
當時，忽必烈的妻子察必正在開平，她得知消息後，馬上報告給了忽必烈。忽必烈立刻召集跟着他的諸王、大將和謀士們，商量怎麼辦。謀士郝經說：“阿里不哥已經開始行動了。大王雖然有重兵，但是，如果他宣稱有大汗的遺詔，先即位了，我們還能回去嗎？”他給忽必烈獻了一條妙計：一方面派一支軍隊去接蒙哥的靈車，把大汗的寶璽奪過來；一方面派軍隊奪取並守衛燕京；同時通知各王到和林去舉行喪禮。正在這時，南宋宰相賈似道又來求和，忽必烈馬上同他訂了和約，然後帶着人馬北上。
公元1259年，忽必烈到達燕京，遣散了脫裡赤招買的人馬。公元1260年三月，忽必烈到達開平。他的大將廉希憲和商挺私下對他說：“先下手爲強，後下手遭殃。機會丟失了，就再也找不回來了。”於是，忽必烈在開平召開忽鄰勒塔，在塔察兒、也先哥、合丹、米哥等王的擁護下，忽必烈登上了大汗的寶座。
阿里不哥沒想到忽必烈的動作這樣少，他慌忙在4月也召開忽鄰勒塔，宣佈自己爲大汗。
常言道：“天無二日，國無二主。”蒙古國出了兩個大汗，那怎麼能行呢?看來只有通過打仗來決定了。當時，東部的各個王都支持忽必烈，西邊的王中，有的支持阿里不哥，有的支持忽必烈，而且忽必烈還統治着中原，因此忽必烈的力量比阿里不哥大得多。因爲阿里不哥的勢力在西邊，因此忽必烈就派廉希憲向陝西進軍。阿里不哥在陝西的大將是渾都海，他手下一個姓劉、一個姓霍的戰將駐紮在六盤山一帶。廉希憲一到，兩軍就打了起來。廉希憲的老將劉黑馬一馬當先，一場惡戰，活捉了劉、霍二人，把渾都海打得大敗。廉希憲又從霍魯懷口裡知道，駐紮成都的密裡霍者，駐在青州的乞臺不花，都要起兵反叛忽必烈，情況萬分緊急，來不及報告忽必烈，廉希憲就假傳聖旨，派劉黑馬到成都殺死了密裡霍者，派汪惟正到青州殺死了乞臺不花。不久八春、合丹等又來同廉希憲會合，他們打敗渾都海，並殺死了阿蘭答兒和渾都海，阿里不哥在西方的力量被打垮了。
同時，忽必烈親自帶領大軍，直撲阿里不哥的老巢和林。阿里不哥哪裡是對手，慌忙逃到謙州，他怕忽必烈追來，就使了一個緩兵計，派人向忽必烈認罪，說他願意投降，等他把馬兒養肥了，再同其他王一起來拜見。忽必烈認爲阿里不哥所做的事，全是他的謀土指使的，因此，就對使者說：“你回去告訴我的弟弟，說我相信他的話，原諒他了，叫他快快來見我。”後來忽必烈等不及了，就派也孫哥駐守和林，自己先回開平了。
公元1261年秋天，阿里不哥養肥了他的戰馬，又收集了一批人馬，又發兵南下。他深入到也孫哥那兒，假意說是來投降，也孫哥信以爲真，沒有做打仗的準備。阿里不哥發動突然襲擊，又把和林奪了回去。忽必烈知道後，馬上又帶兵北上，兩軍在昔木土腦兒相會，結果阿里不哥又被打敗，逃回和林。可是這時，原來支持阿里不哥的阿魯忽王也起兵反對他，阿里不哥被迫逃到新疆去。
後來，阿里不哥又多次打了敗仗，加上蒙古高原又發生了饑荒，原來支持阿里不哥的各王，紛紛跑到忽必烈那兒去了。公元1264年，阿里不哥只得向忽必烈投降。忽必烈問他：“咱們兄弟倆，按道理講，到底誰該當大汗呢?”阿里不哥說：“以前我是對的，現在是大汗你對!”他還挺硬氣的，只承認失敗，可不承認沒有道理。後來，忽必烈下詔：阿里不哥等王，都不問罪，但是他的謀臣，要全部殺死。樣，忽必烈鞏固了他的汗位。
шшш⊕ttκá n⊕￠ Ο
忽必烈平定阿里不哥後，把政治中心由和林搬到中原，他繼續推行“雙法”來改造蒙古國。公元1271年，忽必烈根據劉秉忠的建議，按《易經》五“乾元”(相大)的意思，把國號改爲“大元”，這樣元朝正式成立了，忽必烈就是元世祖。第二年，元世祖把燕京改爲大都，作爲全國的首都。