10月31日16时，第三次总攻开始。彭德怀一声令下，总部炮兵阵地的迫击炮连续不断地向日军占据的主阵地轰击。总部特务连和772团第一连组成的突击队在前面开路，大部队紧跟而上。八路军打得很英勇，日军抵抗也同样顽强。又是整整一个晚上，八路军始终没能完全占领阵地。
11月1日，日军增援部队，在10余架飞机的掩护下逼近关家垴。再不撤，眼看将要被日军包了饺子。彭德怀终于下令撤出战斗。冈崎大队的余部突围了，日军对关家垴周围地区进行了疯狂的报复，数天之内屠杀群众6000余人。
