1951年10月上旬，中央政治局扩大会议确定实行"精兵简政，增产节约"的方针。9日，军委决定为适应现代战争要求、促进国民经济快速发展，大幅压缩军队总规模。1952年1月5日，毛泽东批准施行《军事整编计划》，规定3年内把国防部队总人数控制在300万人左右。其中，陆军由53个军、185个师整编为30个军、100个师，人数由274万精简至134万，特种兵（空军、海军、炮兵、装甲兵、防空部队、工兵）则由61万增至84.3万，并把地方部队全部转为公安部队。4月15日，毛泽东、周恩来签署中央军委、政务院《关于集体转业部队的决定》，把41个师、11个团共46.5万人转为各种工程部队和屯垦部队。这是人民解放军的第二次大裁军，也是精简员额最大的一次。截至当年10月底，共精简19个军、73个师近200万人，全军总员额减少到420万人左右。军费开支占全国财政总支出比例下降到32.9%。陆军初步完成由分散领导向集中统一指挥、从单一步兵体制向诸兵种合成体制的转变。同时，海军、空军和院校建设得到了加强。
1953年7月，抗美援朝战争胜利结束，国内剿匪作战也接近尾声。此时，全军总员额已降至406万，但仍有伤病人员、供给关系在军队的家属小孩等非列编人员47万余人，以及文化学习队、子弟小学、托儿所等机构工作人员20多万人。为给实行义务兵役制、军衔制、薪金制做准备，8月28日，中央发出军事系统应在整顿组织、精简机构和冗员、加强技术训练、提高部队质量的基础上，大力缩减军费开支的紧急指示，由此启动了人民解放军的第三次大裁军。这次裁军至1955年底完成，全军共精简员额23%左右，总部机关和军区、军兵种机关得到调整和加强，重点加强了海军、空军和陆军炮兵、装甲兵、工程兵等技术兵种建设，极大地推进了人民解放军合成化水平。
1957年1月，中央军委扩大会议通过了《关于裁减军队数量加强质量的决定》，确定"在裁减军队数量加强质量的原则下，将人民解放军员额裁减三分之一，即从383万人中裁减130万左右，保持250万或者再少一些的常备军队"。同时调整全军的组织编制，把原来的陆军、海军、空军、防空军、公安军5个军种改为陆军、海军、空军3个军种，八总部领导体制改为三总部领导体制。
到1958年底，人民解放军的第四次大裁军基本完成，人民解放军编制体制实现了一次根本性调整，打破了以陆军为主体的军事力量格局，大力发展海军、空军及陆军技术兵种，初步达到战略合成的要求。
开国少将回乡务农
2013年9月26日，习主席在接见第四届全国道德模范及提名奖获得者时，亲切问候并向大家介绍坐在第一排的一位老人。习主席饱含深情地向大家介绍，这位全国道德模范就是开国将军甘祖昌同志的夫人龚全珍老人，甘祖昌在新中国成立后回家当农民。半个世纪过去了，我们仍然要弘扬这种革命精神，要一代一代传承下去，向老前辈致敬。
1955年，时任新疆军区后勤部部长的甘祖昌被授予少将军衔。在长期的革命战争中，甘祖昌的头部曾3次负重伤，严重的脑震荡后遗症使他难以坚持工作。领导和同志们都建议甘祖昌到条件比较好的地方去长期休养，但他却说："活着就要为国家做事情，做不了大事就做小事，干不了复杂重要的工作就做简单的工作，决不能无功受禄，决不能不劳而获。"
时值第四次大裁军。为了不给国家增加负担，甘祖昌决定解甲归田，但他的请求没被组织批准。7月，总政治部副主任萧华视察新疆军区。甘祖昌又当面提出申请，终获同意。
