国民党军调集了十九个整编师(军)共四十九个旅近三十万人，其中直接围攻临沂的部队达十一个整编师(军)共三十个旅。北线部队，由第二绥靖区副司令官李仙洲指挥，兵力三个整编师(军)共九个旅，自明水、周村、博山南下，攻击莱芜、新泰和蒙阴一线，目标直指山东解放区的后方基地。南线部队，由整编第十九军军长欧震指挥，兵力八个整编师(军)共二十一个旅，自台儿庄、新安镇和城头一线分三路向北攻击临沂。其他八个整编师(军)担负陇海、津浦和胶济铁路沿线的守备。同时，国民党军还从冀南、豫北战场抽调了四个整编师(军)集结于鲁西南地区，预备鲁南会战开始后，阻击刘伯承、邓小平的晋冀鲁豫野战军增援，或者是陈毅、粟裕部主力从临沂向西撤退。
一月二十八日，徐州绥靖公署下达作战命令。两天以后，欧震指挥的八个整编师(军)分三路开始大举进攻。国民党军攻击部队吸取了以往被共产党军队突袭分割的教训，采取集中兵力、稳扎稳打、齐头并进和避免突出的战法;而在兵力部署上，采取"烂葡萄里夹硬核桃"的战术，在三路攻击部队中，每一路中都有一个精锐的主力师作为骨干，大兵力谨慎地滚动前进，每天推进的行程不超过十公里。陈诚认为，如此庞大的兵力是陈毅和粟裕根本无力阻挡的，他对部下说："即使全是豆腐渣，也能撑死共军!"
