这种说法并非毫无来由。
1944年4~6月间的豫中会战（也称中原会战），因重庆最高决策层（具体来说就是蒋介石）对日军的战略判断失误，第一战区（司令长官蒋鼎文、副司令长官汤恩伯）遭遇了前所未有的惨败。败退途中，确实发生了国军被“地方民众武装”抢劫缴械的现象（“带着日军”这种情节，笔者未见到史料依据，其说法出自作家刘震云的小说《温故1942》）。
有这么几份史料为证：
一、汤恩伯的《检讨》
豫中会战结束后，汤恩伯提交了一份《第一战区中原会战之检讨》。其中有这么两段：
“此次会战期间，所意想不到之特殊现象，即豫西山地民众到处截击军队，无论枪枝弹药，在所必取，虽高射炮、无线电台等，亦均于截留。甚至围击我部队，枪杀我官兵，亦时有所闻。尤以军队到处，保、甲、乡长逃避一空，同时，并将仓库存粮抢走，形成空室清野，使我官兵有数日不得一餐者。一方面固由于绝对少数不肖士兵不守纪律，扰及闾阎，而行政缺乏基础，未能配合军事，实为主因。其结果各部队于转进时，所受民众截击之损失，殆较重于作战之损失，言之殊为痛心。
“又敌在行政下级干部阶层及各乡镇，各警所，多已隐伏汉奸分子，淆惑民众，阻扰国军，无不用其极。敌自龙门突破后，即窜大屯，开伪保甲长会议，当时民众竟尔持旗欢迎。当时宜阳县地方团队奉令破坏洛宜段新洛潼公路，洛阳民众竟以不敢触怒倭军为辞，持械抵抗，入夜又潜将破坏处修复。以上不过举其一例，政治如此，更安所望于军民配合之原则耶？”
汤恩伯在检讨里，将国军被“豫西山地民众”抢劫缴械一事的主因，归结为“行政缺乏基础，未能配合军事”，其具体针对的，乃是时任河南省主席兼保安司令的李培基。
在另一封直接给蒋介石的电报里，汤恩伯也有很微妙的表述：
“中原会战未能达成任务，有负钧座，有负党国。中心惶恐，愧仄交集。失机原因，固有多端，而职德薄能鲜，处置未善，要为主因。现职部各军正在努力整备实力，不久当可恢复，目前处境虽极艰困，而干部团结无间，士气振奋，准备继续杀敌。惟此间环境复杂，矛盾多端，党政问题似较军事尤为复杂，似宜调整，庶可集中力量挽救颓势。”（《汤恩伯呈蒋中正自我检讨中原会战失利并努力整补部队》，台湾“国史馆”数位典藏号002-080102-00075-011，1944/06/06。）
所谓“党政问题似较军事尤为复杂”，显然也是不点名地在针对河南省主席李培基。
汤恩伯如此针对李培基，一方面，与汤、李素来不和有关；另一方面，李培基本人确实也与国军被缴械一事脱不了干系。
热衷于袭击撤退的国军并收缴其武器者，是豫西地方强人别廷芳等人遗留的地方武装。这些地方武装长期割据豫西，抗战期间虽大多名义上服从国民政府，但仍保持着高度的独立性。汤恩伯部二十九军军长马励武，在回忆此役时，明确指责这些地方武装是袭击国军、抢夺枪械的主犯：
“当时，豫西土黄帝别庭芳遗留的武装力量，以‘地方自治’、‘守望联防’为名，纠合地方人民，袭击汤军。由于汤军自溃乱之后，纪律荡然，人民恨之入骨，这样就被地主豪绅武力头目所利用。（别庭芳当时已死，由刘杰卿及别庭芳的儿子等仍旧打着他的旗号继续称霸一方。）汤军各部已成惊弓之鸟，溃乱的部队也闹不清情况，只要一闻枪声，即以为日寇追到或挡住了去路，甚至在一声吆喝之下，就相率缴械逃命。”（《文史资料选辑 第32辑 第10卷 》，P187。文中括号内文字系原文所有）
所以，应该明确一点：不是“河南老百姓缴国军的械”，是“豫西的地方武装缴了国军的械”。
时任河南省主席兼保安司令李培基，恰与这些地方武装有着很密切的关系。
据别炳坤在《有关祖父别廷芳的回忆》一文披露，其父别光汉（别廷芳之子）以“地方自治”名义坐拥地方武装，颇遭到刘峙等坐镇河南的军事长官的打压。为抗衡这种打压，别光汉选择向省内的其他政治势力靠拢，其中就包括李培基：
“别光汉使用很多方法，同先后任河南第六区专员（驻南阳）的王幼侨、罗震和朱玖莹等拉拢，使他们起到了一定的保护伞作用。同时，别光汉又和河南省民政厅长李培基、河南农工银行行长李汉珍等拉拢。”“李培基曾送给我祖父一辆福特牌黑色小轿车。”
如此，自不难理解，为何汤恩伯要在检讨文件和给蒋介石的电报中针对李培基。
1944年5月20日，蒋介石在“本星期预定工作课目”中写道：
“三、河南善后，更调省主席。五、决任辞修为第一战区长官。”
可见蒋介石也认同河南“军政不和”问题的存在。1944年7月，李培基被免去河南省主席兼保安司令职务。
以陈诚担任第一战区司令长官，取代蒋鼎文，与蒋、汤矛盾有关。1944年5月6日，蒋在日记中写道：
“此时最难者，莫如高级将领之粗拙无能，尤其是旧有将领，不自知其无能，而又自以为有资格之旧部，非予以重要位置，则不甘心。余不能以为事择人，亦视其资格与关系任命，此今日蒋鼎文在第一战区之所以败事也。”
1944年5月7日，蒋在日记中又写道：
“上午六时与铭三通电话，问其登封部队消息，彼仍茫然不知，间其长官部平时为何不与各军部准备无线电通信设备，彼则推归汤恩伯指挥，而他即可不与通信。此种拙劣将领，诚令人欲哭无泪。”
“彼则推归汤恩伯指挥，而他即可不与通信”一句，已可见蒋鼎文（司令长官）、汤恩伯（副司令长官）二人在第一战区之水火不容。
二、陈诚在第一战区的调查
豫中战败后，陈诚曾奉蒋介石之命前往第一战区调查。
陈诚在回忆录中写道：
“七月二十二日至八月四日，我曾在西坪及西安，召集师长与师政治部主任以上将领，以及后勤人员，分别举行作战检讨会两次，对于此次豫西会战之失败，得到很多坦白的供述，诸如：
……
七、军纪废弛已极：河南民间早就有‘宁愿敌军烧杀，不愿国军驻扎’的口号，
虽不免过甚其词，但军队纪律的败坏，实在也是无容为讳的事实。汤副长官不能以身作则，又个性太强，上行下效，往往相率蒙蔽，不敢举发。伊川、嵩县、登封遭八十五军洗劫极惨。十三军之于密县、禹城，预八师之于卢氏，四十军之于木洞沟亦复如是。长官部特务团随长官部行动，亦到处鸡犬不留。军民之间俨如仇敌，战事进行中，军队不能获得民众协助，自属当然。而各地身任乡镇保甲长或自卫队长等之土劣恶霸，且有乘机劫杀零星部队及予以缴械之事。（《陈诚回忆录：抗日战争》，东方出版社，2009，P94。）
与马励武等人一样，陈诚也认定抢夺国军枪械者并非普通民众，而是“各地身任乡镇保甲长或自卫队长等之土劣恶霸”。
不过，因军、政对峙，第一战区当时确有一种民心惶惶的空气——汤恩伯以国军枪械被抢为由责备省府，省府方面则刻意渲染军队要报复民众，如河南省临时参议院曾有报告指责汤恩伯“诿过民众，以为屠杀豫民之张本”（其实汤并无此意）。1944年6月2日，陈诚在给蒋介石的电报中写道，第一战区有六件迫不容缓应该马上着手去办的事情。其中第四件正是：
“民众深恐军队报复，致人心惶惶，宜由省政府及省党部、省参议会派员会同第一战区长官部或副长官部高级军官，负责处理。收回散失民间枪支，并酌付代价，以免激成民变，或为奸伪利用。”（《电呈豫省善后处置刻不容缓谨陈六事即请鉴核》，《陈诚先生书信集 与蒋正中先生往来函电 下》，P575）
三、蒋介石的训斥
1944年7月21日，蒋介石召开黄山整军会议，专门检讨豫中（中原）会战与长沙会战。
会上，蒋介石痛斥第一战区的军纪败坏，认为其部队被民众缴械，是国军的耻辱：
“讲到这一次中原会战的情形是怎么样呢？有一些美国和苏联的军官和我们军队一同退下来的，据他们所见，我们的军队沿途被民众包围袭击，而且缴械！这种情形，简直和帝俄时代的白俄军队一样，这样的军队当然只有失败！我们军队里面所有的车辆马匹，不载武器，不载弹药，而专载走私的货物。到了危急的时候，货物不是被民众抢掉，就是来不及运走，抛弃道旁，然后把车辆来运家眷，到后来人马疲乏了，终于不及退出，就被民众杀死！部队里面军风纪的败坏，可以说到了极点！在撤退的时候，若干部队的官兵到处骚扰，甚至于奸淫掳掠，弄得民不聊生！这样的军队，还存在于今日的中国，叫我们怎样作人？尤其叫我个人怎样对人；我统帅受到这样的耻辱，也就是大家的耻辱。”（蒋介石，《对于整军会议之训示——知耻图强》）
显然，蒋无意区分参与缴械者究竟是“地方武装”还是“普通民众”。毕竟，这种区分并不能改变事情的本质。
一点补充
正好说到豫中会战，这里就顺便再介绍一点蒋介石个人对此役的反省。
1、在日记中，蒋介石承认第一战区的惨败，主因是自己“战略判断失误”。
1944年5月13日，蒋在“上星期反省录”中写道：
“本周军事、外论、党务皆处逆境，而以军事部署以口头命令、个人独断之错误，以致洛阳战局大坏，为生平所未有之怪事，因之内心惭惶，几乎寝食不安。此乃战区长官之无能，对之全失信任之心，故因恶成愤，是以对前方战事处处干涉，所以有此结果。以后对前方战事，应专责军令部处理，而勿再直接平涉，更勿可用电话作口头命令也。此乃一最大之教训，当永志毋忘。”
5月31日，蒋介石又在“本月反省录”中写道：
“五月七日为敌寇战车在开封阳(佯)动所欺诱，而即令西龙门与虎牢关各军向洛阳增援，以致河南战局，转成为败。此为毕生惟一之愧悔，与无上之错，不得不特书，以明余之罪恶与愚拙。懂得此教训以后，军事处置乃不致自是自满，至此或为转祸为福之道乎。”
2、对外界，蒋介石也承认自己要为此次惨败负重要责任。
1944年9月16日，蒋介石在“國民參政會第三次大會”上发表讲话，扼要讲述了最高决策层（也就是蒋自己）战略判断失误的全过程：
“河南战事开始发生的时候，我们所得的情报，敌人不过是由华北华中各战场抽调他几个步兵师团，并没有发现他机械化师及装甲部队。以我们第一战区的兵力，是足够应战的。所以我们当时只照敌人过去步炮空连合作战的战术，来部署准备。不料敌人到了郑州之后，发现他还有大量的机械化部队，参加作战。我们当时的布置，以许昌、洛阳为河南会战的两大据点，许昌的工事，建筑得相当的坚固，照敌人平时攻击的方法与力量，是必可久守无虞的。但是敌人攻击了几天无效之后，他就用战车来攻城，我们部队事先并未有此训练、各种工事，亦未注意及此。所以不到两天，许昌就被他攻破，吕公良师长也就在许昌城殉职了。我们到这个时候，对于河南战事，不仅要防御敌人的步炮空军，而且要防御敌人的机械化部队。因此我们不能不改变战略，除坚守洛阳，牵制敌人的兵力之外，凡临汝以东，平原地带的部队，一律撤退到嵩山山脉，另定部署，再与敌军作战。因为我们如果在平原地带，以步兵来抵抗敌人的机械化部队，决无幸胜的希望。统帅部按照这个计划，乃命令洛阳守军，必须坚守两周，预计两周之后，我们撤退到嵩山山脉的部队，就可以集中完毕，从新部署向洛阳增援反攻了。……不料我们临汝以东的部队一撤退，敌人不先攻洛阳而以战车跟踪追击我们撤退的部队，机械化部队与步兵行进的速率，当然不能相比，因此我们撤退的部队来不及集中，就被敌人冲破，然后他再用全力来围攻洛阳。”
