电影《太行山上》以抗日战争为背景，讲述八路军总司令朱德率领刚刚改编完的八路军三个主力师东渡黄河，挺进抗日前线，建立太行山根据地的光辉历程。
电影集中表现了自1937年9月至1940年5月期间，从平型关大捷、阳明堡战役到击毙日酋阿部规秀中将的黄土岭战役等几次重大战役，正面歌颂了我党领导的武装力量是民族抗日的中流砥柱，反映了抗日民族统一战线的正确，表现了八路军与人民群众的血肉联系，成功的塑造了朱德等老一辈革命家的光辉形象。
第二次世界大战爆发，日寇发动了侵华战争，华北地区因其战略位置的重要成为日军的主要突破口。八路军总司令朱德奉党中央命令，率领刚刚改编完的八路军115、120和129三个主力师东渡黄河，奔赴抗日前线，开辟太行山革命根据地。朱德见到阎锡山，表明我军抗日决心，要在平型关打一仗，歼灭日军一部，并要求友军配合。只想“抗战守土”的阎锡山，表面上答应配合却迟迟没有行动。兵力单薄、装备较差的八路军将士凭借赤子之心和顽强的斗志，在朱德总司令的部署和林彪、聂荣臻的指挥下，115师主力在平型关伏击日军精锐坂垣师团，打退日寇十一次突围，将平型关十里大峡口变成了侵略者的大坟场！平型关大捷，沉重打击了日军的嚣张气焰，极大的鼓舞了全国军民的抗战热情，八路军得到山西人民的热烈拥护。随后，朱德总司令派遣129师先遣团夜袭日军阳明堡机场，摧毁了日军的空军优势；同时调动120师伏击雁门关，切断了日军的补给线……国民党政府实行“攘外必先安内”政策和被动防御方针，给共产党建立革命根据地设置了重重阻碍。曾经大战蒋介石的阎锡山，又与蒋联合反共：死守太原，被动防御；国民党军队据守的娘子关失守，国民党爱国将领郝梦龄以身殉职！八路军独臂团长贺炳炎杀的浑身是血，雁门关依旧告急！阎锡山落泪了！傅作义痛悔：“还不如按朱德的战法……”日军占领太原城。已经取得良好开端的抗日形势发生了逆转！八路军奉中央之命向南转移……八路军放手发动群众，建立敌后根据地，主力部队跳到外线打击敌人。朱德、彭德怀、左权等只带少数警卫连队与敌周旋，处境十分险恶，几次与敌遭遇，但都化险为夷。在敌人后方，一间普通的教室内。东路军将领会议成功召开。衣着反差鲜明、战略意识也不同的国共将领，由交手而未见面变为见面而不交手，共商抗日大计。朱德总司令的幽默和深刻，不时博得双方将领的掌声，连满怀敌意的朱怀冰也不得已而为之……寒冷冬夜，朱德替刚入伍的小战士站岗，望着漫天飞雪，心中想到蜀中父老，吟下著名诗篇：“伫马太行侧，十月雪飞白。战士仍衣单，夜夜杀倭贼！”塞外张家口，“塞樱阁御料理”内正在举行欢迎酒会。不甘失败的日本侵略者将希望寄托于山地战专家——“护国之花”阿部规秀。寺内寿一大将举杯：“阿部中将及诸君此次出师……一定会马到成功”！身负重任、气焰嚣张的阿部，掘墓焚尸；不仅残杀被俘的游击战士，还向被八路军释放的同胞举起屠刀！年轻的二等兵三木仰天大吼：“天皇殿下！八路军优我们，皇军却杀害我们，这是为什么？”随即纵身跳入火海。河北黄土岭。八路军与阿部率领的日军激战正酣。阿部规秀这棵日本帝国的“护国之花”连自己都保护不了，在太行山腹地，我军与日军的激烈枪战中，被我击毙。日军朝野震惊，哀叹：“名将之花凋谢在太行山上……”胜利后的八路军，在太行山区站稳脚跟，建立起巩固的革命根据地，使这块战略要地真正成为中华民族的脊背。
