“合肥”名称之由来，说法有二。北魏郦道元《水经注》云：夏水暴涨，施（今南淝河）合于肥（今东淝河），故曰合肥。这是一种说法。唐代有人提出另一种说法，淝水出鸡鸣山，北流二十里分而为二，其一东南流（南淝河），经过这里入巢湖；其一西北支（东淝河），二百里出寿春入淮河。《尔雅》上指出“归异出同曰肥”。二水皆曰肥，合于一源，分而为二，故曰合肥。
虽然“合肥”的名称在公元一世纪的《史记》中才出现,但根据考古分析,认为远在新石器时代(公元前30世纪-前20世纪),合肥地区已有人类活动的踪迹。公元前16世纪夏桀曾被商汤放逐于南巢(即今合肥城附近)。西周时(公元前1046年-前771年)这里曾分布着巢、庐、舒等不少小国,东周春秋时代(公元前722年-前481年)这些小国先后为楚国兼并。战国时代(公元前403年-前221年)这里称“宋胡”,先为吴国占有,后被越国兼并,最后又回归楚国,已是兵家争夺之处。公元前221年秦始皇统一中国,废封建，立郡县，此地属九江郡。
合肥是一座历史悠久的古城。自秦朝置合肥县，合肥已有2200多年的历史，素以“三国故地、包拯家乡、淮军摇篮”著称。三国时期，魏吴逐鹿，在合肥纷战32年之久。公元215年，东吴主帅孙权攻打合肥，合肥守将张辽率八百精锐挫败东吴十万大军，孙权策马跃过西津桥，落荒而逃，罗贯中在《三国演义》第67回《曹操平定汉中地，张辽威震逍遥津》中，形象地描写了这场以少胜多的战争。作为三国故地，合肥遗存曹操教练弓弩手的古教弩台、魏将满宠修建的“三国新城”遗址，至今流传着斛兵塘、藏舟浦、筝笛浦等动人传说。
楚汉相争时,楚霸王封英布为九江王,改九江郡为九江国(治驻寿春)。西汉时(公元前206年-公元23年)此处先是刘邦之子刘长受封的淮南国,汉武帝时为加强中央集权取消淮南国,改为九江郡所属的合肥县。东汉建武年间刘秀封功臣铿镡为合肥候,九江郡又改称合肥国(候国)。三国时(公元202年-265年),是曹魏的扬州州治。晋代(公元265年-439年),属淮南郡,是南北货物运输线商的重要中转站。南北朝时(公元420年-581年),是江淮之间军事上理想的屏障,为南北双方争夺的战略要地。
公元581年隋朝统一中国后,恢复合肥县的名称,是庐州州治的所在地。自此以后,经历唐、五代、宋、元、明、清各个朝代,合肥一直是庐州(庐州府)的州治(或府治)。是古代的地区政治中心。辛亥革命后在这里是合肥县。抗战胜利,曾为国民党安徽省会。解放后,先为皖北行署所在地,1953年后是安徽省省会。
历史表明,合肥历来是一个军事重镇或是地区的政治中心。
二千多年来,古城合肥历经藏三。据《庐州府治》卷4记载。汉代的合肥城距今水西门外约二里,位于今南淝河北岸,四里河东岸,现九零八库西测。东汉末年,军阀混战,孙吴和曹魏都非常重视合肥的得失和经营,建安三年(公元199年)孙策攻占合肥,令严象为扬州刺史顾雍为合肥长,不久严象被其部下庐江太守李述所杀。合肥地区发生混战,郡县残破,人口大量逃亡,合肥成了一个荒芜的空城。建安五年(公元200年)曹操为有效的控制江淮通道,巩固淮河南北的地盘,首次委任刘馥为扬州刺史,并将扬州州治从历阳(今和县)迁到合肥。刘馥就任后,采取各项重建措施“招流亡,广屯田,兴陂,高为城垒,修战守备”,使一度空旷荒凉的合肥又振兴起来,成为当时的军事重镇。之后,魏吴为争夺合肥,进行了历史三十二年频繁的战争。文学作品“三国演义”中“张辽威震逍遥津”的典故,就是对在这个时期内发生一次以少胜多的军事行动的描写。逍遥津、飞骑桥、藏舟浦就是当时留下的遗迹。曹操为加强合肥的防御力量,也曾于东汉建安十四年(公元209年)秋,亲率水兵进驻合肥,教弩台、筝笛浦等处有他当当年活动的传说。
汉代合肥城的为之,地势低洼,易遭水患。南北朝时,梁天监五年(公元506年)梁豫州刺史韦睿为夺取北魏的合肥城,曾围堰肥水灌淹,冲毁了合肥。从此此城池又日趋湮废。
公元618年李世民统一全国后,令右武侯大将军尉迟恭,在东距原汉城六里左右的南淝河南岸,选择地势高爽、水运便利的地形（即今十字街中菜市以南的范围）,营建新的合肥城,名为金斗城。
北宋初(公元960年)经过五代十国多年战乱之后,合肥地区又是一片荒凉,诗人王之道在《出合肥北门》中曾作过这样的描述“断垣醔石新修垒,折戟埋沙旧战场。阛凋零煨尽里,春风生草没牛羊”。衰败之象,可见一斑。后经近二百年的生息发展,城镇逐步恢复了繁荣的景象。至南宋时,金兵入侵,宋王朝迁都临安（今杭州）当时的合肥成了抗金前线。宋孝宗乾道五年（公元1169年）,城市进一步发展,淮南西路统帅郭振见“镇大城小”着手扩建,将原城墙外一大片土地,连同金斗河,逍遥津,金斗圩一起围入新建的合肥城内,称斗梁城,范围较唐金斗城扩大了很多。城外除筑护城河外,并设东、西二水关（水闸）。平时,江南漕粮、辎重可直接由金水河水运入城,城内军民也有了清洁的水源;战时关闭有利于防守,在城市布局上,当时已能充分利用自然河道,并考虑了平战结合。自此以后合肥城的轮廓基本定型。可惜由于连年抗金战争,合肥这个当年的边防重镇,在宋末又变成“茂林长草、白骨相望、虻蝇扑面、杳无人迹”之地。元世祖忽必烈统治中国（公元1279年）,下令平毁全国所有城池,宋斗梁城也被夷为平地。
明代朱元璋统一中国后,于明洪武元年,令中书省事(后封国公)俞通海,在南宋斗梁城原址上重建砖砌城墙,城池比历代更为坚固,故有“天生重庆铁打庐州”之称。由于明初社会秩序稳定,农业生产的恢复河发展较快,使位于金斗河畔的合肥又很快恢复了元气,显得异常热闹繁华,呈现了“百货马并集,千墙鳞次,两岸悉列货肆,商贾喧謓”的景象。但到了明正德年间(公元1506-1520年)庐州知府徐钰,因害怕起义农民刘六、刘七的进攻,开宽挖深北壕,并将防守较弱的西水关封闭,从此金斗河成了无源之水,逐渐淤塞。由于商船不能直达城内,一度繁华兴旺的金斗河两岸,变的衰败凄凉,仅在东水关外沿河两岸,发展了几百米长,零乱的码头、堆场。臭水沟不但影响居民生活河健康,而且每逢暴雨,泄水不畅,低洼的城东南部成了一片泽国。“土墙茅舍、湮塞街?,呼号之惨闻于中夜,每岁而一见”。一度对合肥经济河生活起过重要的作用的金斗河,成了威胁人民生命财产的一大祸害。合肥城也因此再趋没落。
清代北洋军阀,日寇侵占和国民党统治时期,合肥虽仍是地区的政治中心,但城市本身已逐步趋向衰败。至1949年解放前夕,合肥已被摧残的百业凋零、满目凄凉,到处断垣残壁,遍地污水垃圾。方圆5.2平方公里的城内,建成区仅2平方公里,居住着五万市民，已衰败成一座没落的小城镇。
安徽省省会合肥是一座历史悠久的古城。自秦置县，属九江郡，至今有2200多年的历史，遗存众多，名人辈出，文化灿烂，素以“三国故地、包拯家乡、淮军摇篮”著称。
合肥处于战略要冲，史称“淮右襟喉、江南唇齿”，历为兵家必争之地。三国时期，魏吴逐鹿，在合肥纷战32年之久。公元215年，张辽率八百精锐挫败东吴十万大军，孙权策马跃过西津桥，落荒而逃，三国演义第67回形象描绘“退后着鞭驰骏骑，逍遥津上玉龙飞”，这就是历史上著名的“张辽威震逍遥津”。作为三国故地，合肥遗存曹操教练五百弓弩手的古教弩台、魏将满宠修建的“三国新城”遗址，至今流传着斛兵塘、藏舟浦、筝笛浦等动人传说。
合肥是北宋著名清官包拯的家乡，包公一生铁面无私、不畏权贵、清正廉洁，留下了“包青天”的美誉。公元999年，包公出生在合肥肥东县解集乡小包村。公元1027年，中进士，任建昌知县（江西永修），但是，他辞官不授，在家侍奉父母。公元1037年，已39岁的包公登上仕途，离家出任扬州天长知县，在合肥生活近40年。公元1062年，病逝于开封，次年八月，葬于合肥东郊大兴集。合肥是包公的出生地和墓葬地，拥有众多遗迹。香花墩是包公幼年读书地，《庐州府志》记载：“香花墩，包孝肃读书处，蒲苇数重，鱼凫上下，长桥径渡，竹树阴翳。”包公祠位于香花墩上，四面环水，始建于公元1066年，是国内外包公祠和包公庙的鼻祖，清末李鸿章捐银重修；包公墓收敛着包拯及其夫人、子孙的遗骨。
合肥是淮军的发祥地，主要淮军将领的故里，《辞海》的“淮军”条中，列出淮军主要将领李鸿章、张树声、刘铭传、周盛波、潘鼎新、吴长庆、丁汝昌、叶志超、聂士成9人中有7位是合肥人，另外2人吴长庆和丁汝昌是原庐州府辖下的庐江人。淮军由李鸿章创立于19世纪60年代，从内地走向沿海、从安徽走向全国、从传统走向近代，将我国历史上几千年的皇家御林军改变为国防军的新式军队，从咸丰到光绪年间，历经半个世纪的兴衰，成为晚清三大政治、军事集团（曾国藩创立的湘军、李鸿章创立的淮军、袁世凯创立的北洋集团）中的一支重要力量，在晚清的政治、军事、外交和经济上都具有举足轻重的作用。
李鸿章是淮军最重要的将领，官至直隶总督兼北洋通商大臣，出将入相历四十年，东亚西欧涉九万里，掌握着清政府的内政外交。同时，李鸿章镇压捻军、太平军，签订了一系列屈辱的不平等条约，成为中国近代史上最具争议的人物之一。
合肥是一座科教之城。这里是全国重要的科教基地，世界科技城市联盟城市之一，国家首个科技创新型试点城市，正在建设中国科学城。这里拥有中国科技大学、合肥工业大学等42所高等院校，中国科学合肥物质研究所等200多所科研机构，23万科研人员，智力资源在全国同类城市中处于领先。全国有8个国家重大科学工程，合肥占2个，分别为中科大的国家同步辐射实验室和中科院合肥物质研究院的超导托卡马史聚变实验装置。合肥科教游已成为安徽旅游的知名品牌，旅游人学科技，科技人当导游成为合肥一道靓丽风景。
合肥是国家首批园林城市。作为国家首批三个园林城市（北京、珠海、合肥）之一，有“绿色之城”的美称，是最适合人居的城市。合肥环城公园全长8.7公里、面积137.6公顷，敞开式布局，像一条美丽的“翡翠项链”，抱旧城于怀，融新城之中，形成了“城在园中，园在城中，城园交融，浑然一体”的独特城市风貌。2004年，环城水系荣获“中国人居环境范例奖”。合肥城郊还有紫蓬山、大蜀山两座森林公园。合肥滨临巢湖，合肥南侧至巢湖的岸线距离仅10公里，是美丽的滨湖城市。
巢湖之滨有一处千年古镇——三河。三水流贯，具有“小桥流水人家”的典型水乡风貌。三河古称“鹊渚”，春秋时就已得名，历史上曾在此发生过著名的吴楚“鹊渚之战”。1858年，太平军又在这里取得了震惊中外的“三河大捷”，留下了古城墙、英王府等历史遗迹。
