1937年8月下旬，八路军第115师作为先遣部队，从陕西三原地区出发，东渡黄河，于9月中旬抵达晋东北抗日前线。这时，由平绥(今北京至包头)铁路东段向山西进犯的日华北方面军第5师团(师团长板垣征四郎)已进到广灵、灵丘、涞源一线，正企图夺取内长城线上的平型关要隘。尔后与自大同南下的关东军察哈尔派遣兵团协同，击溃国民党军第二战区部队，打通晋北通道，实现右翼迂回，配合华北方面军主力歼灭平汉(今北京至汉口)铁路沿线的国民党第一战区主力。在日军的进攻下，国民党军第二战区命令第6、第7集团军共7个军退守雁门关、茹越口、平型关内长城一线，企图凭借有利地形和既设阵地阻止日军进攻，保卫山西腹地。同时，要求八路军先头部队协同其坚守内长城线。

为了积极配合第二战区友军防守内长城线，八路军总部于9月中旬命令第115师进至平型关以西的大营镇待机。第115师在师长林彪、副师长聂荣臻率领下，进至大营镇后，以第343旅前出至平型关东南上寨隐蔽集结，以第344旅向上寨机动。9月20日，日军第5师团第21旅团一部，占领灵丘县城。22日，又进至平型关以北的东跑池。23日，八路军总部命令第115师向平型关、灵丘间出动，相机侧击向该线进攻之日军。

第115师受领任务后，于24日组织营以上干部进行现场勘察，发现从平型关山口到灵丘县东河南村，是一条由西南向东北延伸的狭窄谷道。其中平型关东北关沟至东河南长约13公里的公路地段，沟深道窄，两侧高地便于隐蔽和发扬火力，是伏击歼敌的理想战场。于是，师首长决心抓住日军骄横、疏于戒备的弱点，利用平型关东北的有利地形，出其不意，以伏击手段，将由灵丘向平型关进攻的日军歼灭于狭谷之中。同时进行了具体部署：令第343旅第685团位于白台崖以西，截击日军先头部队，消灭关沟至老爷庙之敌；第686团位于右侧，实施中间突击，分割歼灭小寨至老爷庙之敌；令第344旅第687团在西沟村、蔡家峪、东河南村一带，断敌退路，阻敌增援；第688团为师预备队，向东长城村集结。令师独立团和骑兵营进至灵丘、涞源方向，牵制与打击援敌，保障全师翼侧安全。为达成战斗的突然性，各部队于24日晚利用暴雨和夜暗，由冉庄向平型关东北之白崖台开进，至拂晓前，均隐蔽地进入设伏地域，并完成了战斗准备。

25日晨，日军第5师团第21旅团一部乘汽车100余辆，附辎重大车200余辆，沿灵丘至平型关的公路西进。7时许，全部进入第115师预伏地域。师首长抓住战机，立即命令全线突然开火。骄横的日军遭到意外打击，不知所措。伏击部队即刻乘敌陷于混乱之机，适时发起冲击。第685团从关沟以北高地迎头截击，歼其先头一部，封闭了日军南窜之路。第687团将敌后尾部队分割包围于蔡家峪和西沟村，并抢占韩家湾北侧高地，切断了日军的退路。第686团第1、第2营冲向公路，于小寨至老爷庙之间，与麇集在公路上的日军展开激战。这时，师首长发现日军从懵懂中清醒过来后，正利用汽车进行顽抗，并组织兵力抢占有利地形，企图突围。于是，命令第686团团长李天佑以一个营先于敌人拿下公路对面的老爷庙制高点，造成居高临下夹击敌人之势。该团第3营受领任务后，立即向公路对面冲击，但遭到公路上日军的拼命抵抗。全营官兵前赴后继，奋勇冲杀，第9连最后只剩下10余人，仍坚持战斗，营长负伤了还继续指挥，终于在第2营的支援下，第3营先敌抢占了老爷庙及其以北高地，封闭了日军逃跑的大门。已陷入四面包围的日军，多次拼命向老爷庙反扑，企图向北突围，均被第686团击退。先期进占东跑池的日军一部回援老爷庙，亦被第685团阻止。

素以精锐之师自诩的日军第5师师团长板垣征四郎得知所属部队将被围歼后，急令其在蔚县、涞源的部队速向平型关增援，均被第115师独立团和骑兵营阻击于灵丘以北和以东地区。被围于小寨至老爷庙之间的日军，在6架飞机的掩护下，以密集队形再次猛攻老爷庙及其附近地区，企图杀出一条生路。由于敌我短兵相接，日军飞机也无能为力，其反扑复被第686团击退。随后，第686团集中全力，在第685团和第687团各一部配合下，全歼了被围日军。13时，战斗结束。当日黄昏，第343旅向东跑池一带日军出击，由于国民党军未按预定计划出击，致使歼灭东跑池日军的计划落空。

八路军第115师在首战平型关中，发挥了善于近战和山地战的特长，保持了战斗的突然性，以劣势装备一举击毙日军精锐板垣师团第21旅团1000余人，击毁汽车100余辆，马车200辆，缴获轻重机枪20余挺，长短枪1000多支，及其他大批军用物资。这是八路军出师以来第一次歼灭战，也是全国抗战以来所取得的第一个大胜利。这一胜利，直接配合了国民党友军作战，粉碎了“皇军不可战胜”的神话，增强了全国军民抗战必胜的信心，提高了共产党和八路军的声威，在抗战史上写下了光辉的一页。八路军出师首战告捷的消息立时传遍全国，各地各界纷纷发来贺电、贺信，盛赞八路军“受命抗敌，立奏奇功”的英雄业迹。从此，“首战平型关，威名天下扬”，就成了八路军军歌中两句响亮的歌词，到处被人们传诵。