该军的前身是第37、国民革命军第39军各一部。1937年8月11日，第37、第39军在淞沪会战中由于损失严重，无力恢复，交由胡宗南军事集团整编。1938年4月，第37、第39军各一部合编组成国民革命军第27军，隶属抗日战争第一战区。桂永清任军长，李树森任副军长。下辖：第24师，李英任师长；第45师，戴权民任师长；预备第8师，凌兆尧任师长。该军组建后，即参加徐州会战，奉命坚守砀山、商丘一线，阻止由徐州沿陇海路西进的日军和增援豫鲁皖边地区作战的任务。1939年11月，该军隶属抗日战争第二战区时，部队编制进行了调整。第17军团的第46师改隶该军；该军原辖第24师改隶国民革命军第76军；第58旅回归第20师的建制。此时，范汉杰任军长。该军下辖：第45师，刘进任师长；第46师，黄祖埙任师长；预备第8师，陈素农任师长。此次整编后，该军在晋东地区参加了冬季攻势作战，并一度攻入黎城、涉县、潞城等地。1941年5月，该军隶属第1战区时，下辖第45、第46、预备第8师编制不变，参加了晋南会战，由东向西，与中条山阵地右翼各部合力，进攻高平、晋城、沁水间地区。
1942年1月，该军属国民革命军第二十四集团军时，范汉杰升任国民革命军第三十四集团军副总司令，副军长刘进继任军长；1943年，该军隶属抗日战争第八战区副司令长官胡宗南指挥；1944年4月，隶属国民革命军第三十六集团军时，周士冕任军长，率部参加了月至5月的豫中会战。1945年6月，该军驻防河南浙川，隶属第1战区时，周士冕改任联勤总部第7补给区司令后，第16军副军长谢辅三升任该军军长。此时。该军编制作了重大调整。其中，国民革命军暂编第四军被裁减后，所属第47师、暂编第4师改隶该军；原辖第45师、预备第8师改隶国民革命军暂编第五军；另有中央军嫡系部队编成新建暂编第64师。此次整编后，该军下辖：第47师，李奇亭任师长，驻防河南西坪地区；暂编第4师，马雄飞任师长，驻防湖北古城；暂编第64师，别光汉任师长，驻防陕西蓝田；原辖第46师改为教导师，用于招募新兵。
1946年2月，该军隶属国民革命军第三十一集团军，位于河南荥阳。此时，谢辅三调任郑州警备司令，第90军第28师师长王应遵任该军军长，李洁、林英、张信成任副军长。下辖第31师，由暂编第4师改编而成，马雄飞任师长，驻防西安；第47师，李奇亭任师长，驻防河南汜水；第49师，由暂编第64师改编而成，李守正任师长，驻防河南修武。
1946年上半年，国民党军队整编时，该军改编为整编第27师，王应遵任师长，陈子坚、张信成任副师长，原辖第31、第47、第49师依次改编为整编第31、整编第47、整编第49旅。此次整编后，整编第49旅加强了炮兵、装甲兵和工兵分队，改编为第2快速纵队，留豫北战场由整编第26军直接指挥。该师整编第31、整编第47旅作为国民党军的主力部队调往晋南战场，多次与人民解放军作战。从1946年7月至1947拈月，该军先后参加了闻夏战役、延安战役、陕北战役、青化砭战役、豫北战役等。在青化砭战役中，该军整编第31旅旅部及第92团被人民解放军全歼，少将旅长李纪云、少将副旅长周贵昌、少将参谋长熊宗继被俘。此次战役后，该师重建整编第31旅，张汉初任旅长。在豫北战役中，该师整编第49旅被人民解放军全歼，少将旅长兼第2快速纵队指挥官李守正、少将副旅长兼第2快速纵队副指挥官蒋铁雄、少将副旅长袁峙山被俘。1947年7月，该师隶属整编第1军；1948年初，该师改隶整编第29军。此后，该师先后参加了宜瓦战役、沙家店战役、延清战役等。在宜（川）瓦（子街）战役中，该整编第31、整编第47旅被人民解放军全歼。少将旅长周由之、李达被击毙。此次战役后，该师所属各旅因伤亡惨重，又以原番号重新组建，刘超寰任师长，刘孟廉任第31旅旅长、乐典任第47旅旅长。
1948年9月，国民党军各整编师恢复军的番号。该师恢复第27军番号，隶属第19绥靖区。刘超寰任军长，下辖整编第31、整编第47旅，依次恢复第31、第47师番号。同年12月，该军隶属第5兵团时，刘超寰改任第36军军长，第16军军长李正先继任该军军长。下辖第31、第47师编制不变。此后，该军参加了陇陕战役和西南战役。1949年12月，该军在西南战役后突围西逃的作战中被人民解放军全歼。
