1260年四月，脱离鄂州战场的忽必烈，以燕京为国都（后改称大都）自立为汗。
大部分的蒙古王公都选择了支持他的弟弟阿里不哥。此时，阿里不哥掌控着漠北草原六十多个诸千户军队（六万多人）、浑都海在六盘山的四万骑兵、部分跟随蒙哥南征的军队，共计约十五万。
忽必烈掌控的蒙古军，一支是自己征宋时亲率的东路军约一万人，一支是从南宋接应北归的兀良合台军一万五千人。
两万对十五万，天时地利人和似乎都被阿里不哥占全了。
但是，忽必烈有着一个阿里不哥一直不屑于拥有，也无法拥有的力量，就是北地汉人的武装。
依靠着中原地带强大的经济实力，与不断的兵源补充，忽必烈击败了阿里不哥，也获得了部分蒙古王公的臣服。
忽必烈很清楚地认识到了一点：在蒙古王公眼里，他始终是个背叛者。他虽然称“汗”，但那是不成吉思汗所约定的忽里勒台推举出来的汗王。
他推行汉法，重用汉人，不愿把华北广阔的土地拿来牧马，这些都是正统的蒙古人所无法接受的。尤其无法接受的是，以燕京为国都，而将蒙古汗庭所在地和林废为宣慰司，这本身就是对以草原为中心的蒙古人的背叛。
因此，击败了阿里不哥，看似将整个蒙古帝国收纳囊中，但此起彼伏的反对声音从来就没停歇过。阿里不哥之后，西北又发生了昔里吉与海都的叛乱，甚至还组建了“塔剌思反忽必烈联盟”。此后，钦察汗国、察合台汗国、伊利汗国纷纷自立，蒙古帝国就此崩塌。
到忽必烈统治后期，甚至连最忠于忽必烈的塔察儿后人乃颜，也在东北发动了叛乱。
忽必烈既然无法接照蒙古的传统来治理蒙古，蒙古帝国自然也不再属于他了。他只能另立炉灶。
依靠汉人，经营汉地。这是忽必烈自金莲川幕府时就确定的立国方向。
先期的他，在这一方面做的真是太好了。旗下谋士如云，包括金国遗老遗少，乡野智者，地方士族，纷纷投靠忽必烈。
不管是契丹、女真，或是蒙古人的统治，对于北地汉人来说，他们最看重的一点是，有没有按照儒家的道道来管理。天下大乱不是他们需要的，他们需要一个让他们能接受的秩序，也需要一个接受他们的代言人。
有能耐的契丹都跑西北去了，女真人几乎被蒙古人杀光了，汉人一片散汉，中原再无其他可树立起来的旗帜。忽必烈正好填了这个空。
应该说，元朝建立的原因之一，是忽必烈与北方汉人相互依托与妥协的一个结果。
在忽必烈之前，蒙古的所有汗王都没有使用年号，他们用的是蒙古传统的生肖纪年。
1260年五月，在刘秉忠等汉臣的建议下，忽必烈建立了中统年号，意为“中华开统”，自称为“华夏中央王朝的正统”，表明其以承继中央王朝的正统自命，并致力于“天下一统”的目标。
1271年十一月，忽必烈正式建国号为“大元”，采古礼、定朝仪、册皇后、立太子。此时，才算是元朝的正式建立。
忽必烈建立元朝，还有一个主要的目的就是为了征服宋国，进而统一天下。
“大元”取自易经“大哉乾元”之义，意思是准备做一番超越历朝历代的“大业”。这个词还出自儒家经典“至公”之论，由此可以名正言顺地并序于夏、商、周、秦、汉、隋、唐的大一统王朝之列。
执着于儒家文化的读书人，他们坚定地认为：如果你拥有了法统，那我就可以无所顾忌的献上我的忠诚。
当战场上一溃千里，守国似乎无望。南宋君臣就纷纷走上了投降的道路。对他们来说，如果向蒙古的“胡虏”投降，那是很难接受的。但向一个“元朝”投降，那是改朝换代的自然现象，祖宗后代都可以理解。
在忽必烈统治初期，元朝建立之前，南宋投降的将领只有一个刘整，这人本来就是金国投降到宋国的，降谁都正常。
元朝建立之后，加上军事上的溃败，在吕文焕投降之后，沿江一线宋将投降大半。包括兵部尚书吕师夔、鄂州都统程鹏飞、殿前指挥使范文虎、江西安抚使钱真孙等等，南宋的文臣武将几乎是望风而降。连忽必烈自己对这种现象都觉得难以理解。
待到元军兵逼临安时，连左丞相留梦炎都偷溜去投降了。
当然，最大的投降者还有南宋的掌权者谢太后，携着宋帝赵顯亲自降元。并诏令各城投降。
