1948年3月9日，整25师调往淮南战场，该师40旅的三个团由浦口、明光进至盱眙，涧溪一带。108旅由浦口经六合进至竹镇，叉涧一线和整46、63 师等部联合扫荡淮南，以梳蓖拉网方式对淮南路东进行四十三天的反复扫荡。4月6日，整25师两个团与苏北兵团12纵34旅101、102团、淮南支队在仇 集平山头发生遭遇战，双方战斗了一天，34旅不支退走。随后整25师调到苏北战场，又取得了不太为外人所知的盐南大捷。
1948年4月12日，黄率整25、4师组成南线兵团，与张雪中率领的整72、83师组成的北线兵团南北对进，企图全歼苏北兵团华野2纵、11纵、12纵于盐城，阜宁以东滨海地区。
5月23日，韦国清本打算先集中优势兵力，以2纵、11纵消灭整25、4师。经过激烈战斗后，发觉碰上了硬钉子，一对一战斗完全占下风。2纵、11纵不敌整25师，且伤亡重大。
同时，黄百韬兵团整25 师也不断发起反攻，向前推进，随后南北二线敌军包夹苏北兵团。5月底国军南北兵团在合德会师，形成合围，形势万分危急，许多同志悲观失望，准备拼命，但在 韦国清同志正确指挥下，经27、28、29日三天激战，虽损失惨重，仍于6月2日突出包围圈，韦为此急电军委请求支援。
1948年6月，著名的豫东战役爆发，黄在这个战役中立下头功，战功卓著，战后蒋介石亲自为黄佩带青天白日勋章。
不过正如黄百韬所言：不是天灭蒋，而是蒋自灭！再好的战将跟错了主帅，那么命运也是悲剧的。在淮海战役后期。被粟裕包围于碾庄地区后。他曾对蒋介石的特派员李以劻感叹："我被围，希望别的兵团来救是不可能的。古人说：胜则举杯相庆，败则出死力相救。我们是办不到的。黄百韬意犹未尽，又说："国民党是斗不过共产党的，人家对上级指示奉行彻底，我们则阳奉阴违……"
