中央从1952年开始,陆续通过各种办法,把各大区书记,包括邓小平、饶漱石和高岗,以及在地方上有较大影响的叶剑英等都先后调到北京来,让他们担任中央一级的领导工作。1954年,又进一步把大区仅剩的负责的军事将领陈毅、贺龙等也都调到中央来了。
1954年4月27日,中共中央就通过政治局扩大会议决议撤销大区一级党政机关,各大区行政委员会随同各中央局、分局一并撤销。至10月份,各行政大区及其相关党政机构已不复存在。