前身是中央陆军军官学校所属六个教导团。1930年春，中央陆军军官学校所属六个教导团编为教导第二师。同年5月，教导第二师改为教导第四师，师长徐庭瑶。1932年冬，教导第四师扩编为国民革命军第十七军，军长徐庭瑶。下辖第二师、第四师、第二十五师。1933年3月，长城战起，该军急调北平，参加长城战役及冀东作战。1935年6月后，该军奉撤出北平，开赴河南洛阳休整。1936年春，该军调至晋南地区。
1937年8月，第十七军以第二十五师为主扩编为第五十二军，隶属第一战区，军长关麟征。下辖第二师，师长郑洞国；第二十五师，师长张耀明。该军组成后，参加平汉路北段作战。1938年，该军转进至山东，参加徐州会战和武汉会战。同年6月，关麟征升任第三十二军团军团长。张耀明继任军长，欧阳芬任任副军长。
除了长城战役，第五十二军在中国抗日战争初期曾参与台儿庄战役、第一次长沙会战等战役，
日军进驻法属越南后，第五十二军调防云南南部，防止日军攻击滇南。
抗战胜利后，由滇南驻地赴越南北部接受日军投降，后从海防由美军船运秦皇岛，一路沿北宁铁路经长城攻入东北，击败林彪部接收沈阳，后进军安东。1946年11月鞍海战役，下辖25师被全歼，师长李正谊等5877人被俘，1600余人伤亡。在辽沈战役时，经国民政府东北剿匪总司令部总司令卫立煌许可，未随廖耀湘兵团西进解锦州之围，反而南下抢占营口。营口战斗中，东北野战军九纵和独立二师歼灭52军2师全部，25师大部和军属辎重团共1.48万人，缴获各种火炮88门，轻重机枪301挺，长短枪2574支，汽车66辆。刘玉章率52军军部及直属，25师一部共一万多人撤走，再船运至江南整补。
上海战役期间，第五十二军于月浦之战造成解放军28、29军部分损失。1949年，在军长刘玉章率领下，先撤到舟山，后至澎湖，再到台湾，是以完全建制败退到台湾部队。
1954年7月1日，番号改编为第八军，1956年更动番号为第三军，1976年先更动番号为第十一军，再改为第六十九军。1989年军级单位裁撤，时驻地为台北。
来台后，如第二师后变更为第三三师、第三三三师，代号为埔光部队，素有“天下第一师”称号（因第一师覆灭未撤退来台）；第二十五师变为第三十四师、第二三四师，代号为长城部队；两师皆为国军主力。
近年师级单位裁撤后，埔光部队（黄埔之光）保有一旅：第二九八旅，改代号埔传部队；长城部队（纪念长城战役古北口之役）保有一旅：第二百旅，改代号古北部队。2013年4月1日，第二百旅再次更换番号为第二三四机械化步兵旅，代号回复为长城部队。2013年7月1日，第二九八旅更换番号为第三三三机械化步兵旅，代号回复为埔光部队。
历任军长从成军至撤台初期为关麟征、张耀明、赵公武、梁恺、覃异之、刘玉章、郭永。
在台历任军长依序为侯程达、张光智、田树樟、郝柏村、胥立勋、丁恩元、张道一、张振远、蒋仲苓、夏超、梁凤彩、李君志、柏隆柜、罗本立、黄世忠、王文燮、张前广、张光锦、梁世锐。
