2002年11月，"改革和完善党的纪律检查体制，建立和完善巡视制度"写入党的十六大报告。2003年8月，中央纪委、中央组织部巡视组正式成立。此后，中央巡视组一般在5年之内，也就是一届政府任期内完成对31个省区市的巡视。
2012年，王岐山担任中纪委书记后，巡视制度发生了重大变革。巡视组开始试行3 个"不固定"：一是巡视组长不固定，中纪委建立了自己的巡视组长库，组长不再是"铁帽子"，而是一次一授权。中国行政体制改革研究会副会长汪玉凯认为，这一变化让想打"人情牌"的被巡视单位"很难提前做准备"。
