1947年6月底，解放军晋冀鲁豫野战军主力从晋冀鲁豫战场渡过黄河后，于8月27日进入大别山。国民党军慌忙于9月上旬以23个旅的兵力跟进，企图将晋冀鲁豫野战军逐出大别山地区。其中，国民党军第四十师及第八十二旅共5个团于10月24日经浠水向广济兼程前进。晋冀鲁豫野战军首长在分析敌情后，决定针对该部国民党军孤军冒进、骄纵轻敌的弱点，迅速集中17个团的兵力，在其必经的高山铺地区展开伏击战，歼敌于运动中。25日下午，解放军各参战部队迅速向高山铺地区集结，进入设伏阵地，由一纵司令员杨勇任前线指挥。

10月26日清晨，担任诱敌深入的解放军中原独立旅第四团第九连和旅侦察队，沿公路朝敌人方向“前进”。在大路铺以南地区与敌“遭遇”后，边打边撤。敌军果然上当，尾随诱敌小分队，很快进入解放军的伏击圈。

高山铺地区是一个狭长的山谷，两侧耸立着洪武垴山、马骑山和界岭山，形成了一座天然的屏障。26日上午9时，国民党军八十二旅进入高山铺地区，遭到解放军的猛烈打击。但敌人仍以为前方不过是“解放军的一个旅”，于是一面发起攻击，一面发报催促后方的四十师“快速赶上”。

国民党军四十师进入高山铺地区，立即向制高点发起冲锋，但很快被解放军压制在半山腰。随后，敌人向洪武垴山、东界岭发起轮番进攻，均被解放军击退。敌人在伤亡惨重后，终于发现解放军“远远不止一个旅的兵力”，于是开始向南突围，但被解放军击退。就在敌人向南突围时，解放军六纵部队抢占了马骑山、李家寨，截断了敌人西逃的通道。

敌人向南发起10余次冲锋，均被解放军击溃，于是只得在深夜沿公路回窜，但遭解放军六纵部队的顽强阻击。眼见突围无望，敌人只得连夜修筑工事，企图固守待援。

战至27日清晨，国民党空军出动飞机7架飞临战场上空，向四十师、八十二旅空投弹药、食品。解放军立即组织防空火力予以打击，击落敌机1架、击伤3架，其余敌机慌忙逃走。解放军发现国民党军第四十师指挥部后，立即集中5个团的兵力发动猛攻，很快将其攻克。敌军失去指挥、乱作一团，杨勇随即下达总攻的命令。解放军以17个团的兵力同时出击，各部队密切配合，很快切断了国民党军第四十师和第八十二旅的联系，将其分割包围。激战至14时，解放军全歼被围国民党军1.76万人。此役，解放军晋冀鲁豫野战军沉重打击了国民党军的“追歼”计划，为随后在大别山地区站稳脚跟、发动群众、建立根据地创造了有利条件。