结束左营之行后，蒋介石正式开始了军事改组工作。根据蒋介石的指令，"东南军政长官公署"被撤销，其业务归并"国防部"及其他相关单位，台湾防卫司令部和陆军训练司令部归并于陆军总司令部，东南区海军司令部、空军司令部和补给司令部归并于各该司令部。此前，溃不成军的陆军装甲兵司令部已经被缩减成装甲兵旅，由蒋介石的次子蒋纬国任少将旅长。《中央日报》，1950年3月4日。这对于简化指挥机构，提高行政效率是颇有益处的。
国民党军惨败的一个重要原因就是各单位之间职责不明，政出多门，互相扯皮，互相推诿，不能很好地配合协作，共同作战。特别是军令和军政两系统的权责不明，给部队造成了很大混乱。所以，对国民党军组织系统加以调整，是蒋介石整顿军事的中心之一。3月15日，蒋介石发布命令：
一、兹拟定国防机构组织系统表及国防职务互相关系对照表，着自39年7月16日起实施。
二、总统根据宪法第36条统帅陆海空军。
三、国防部长依法行使行政权，负责控制军事预算，获得人力、物力，监督有效使用，充实国防力量。
四、参谋总长在统帅系统上为总统之幕僚长。在行政系统上为国防部长之执行官。
五、在统帅系统下设陆海空各总司令部及联勤总司令部，为陆海空军及联勤业务之执行者。
六、依战斗序列成立之高级指挥机构，隶属于统帅系统。《中央日报》，1950年3月16日。
