3月24日起，中国军队对日军的包围圈逐渐缩小，日军大部陷入绝境。当天黄昏，日军一部约七八百企图向灰埠突围，被王克俊所部歼灭大部，残部退回包围圈内。3月26日，王耀武第七十四军克复了泗溪、棠浦，中国军队对日寇进行第二次包围。
日军节节败退，狼狈逃走，中国军队各部沿途截击，痛歼日寇，在3月31日收复高安，4月2日收复奉新。此次上高会战，日军伤亡1.5万余人，中国军队取得了抗战以来的又一次大捷。
