形势的发展使彭德怀对毛泽东的游击战争战略有了更深刻的领悟，在敌后军事建设上，从过去偏重于对主力军的扩军整训，进而致力于加强地方武装和群众游击武装的建设。
1941年2月22日，彭德怀向各战略区发出关于军区工作的指示，要求把八路军的基干兵团与军区组织系统分开，建立起军区独立的组织机构与系统，在军区领导下加倍发展地方武装和组织各种群众性的抗日武装队伍，以便在任何情况下(即使主力转移)保卫根据地。3月28日，彭德怀在北方局干校发表关于《抗日根据地的武装斗争》的重要演说，根据毛泽东人民战争的思想、红军十年斗争和八路军三年抗战的经验，提出建立正规军、地方军、民兵三结合的武装体制，对三者各自的性质、任务、作用和相互关系作了明确的规定。彭德怀的这一方案，使敌后抗日武装的几个方面在毛泽东抗日游击战略的思想指导下，成为一个有机结合的整体，得到毛泽东、朱德的赞同。同年11月7日，中共中央军委发出《关于抗日根据地军事建设的指示》，这一武装体制，遂成为抗日战争以后解放战争到中华人民共和国武装体制的雏形。
百团大战后的半年多内，敌后根据地军事、政治、经济、文化各方面的建设整顿工作，在彭德怀雷厉风行的领导下加速进行。彭德怀常常提醒干部说，在敌后，从战争上说，是没有相持阶段的。敌人天天在进攻，不战则亡。只有这一个战役和下一个战役间存在相持的时间。敌人的这一次"扫荡"和下一次"扫荡"之间，就成为敌后建设的黄金时刻。敌人怀着深刻的恐惧在其情报中说："共军……埋头于恢复战斗力及重建根据地的工作"。
