共产党所领导的人民军队，由于客观条件的限制，炮兵的建立和发展自然也就更差了。在红军时期，大多数红军部队装备非常落后，一个步兵连能全部配备步枪就绝对已经是头等主力了，很多连队主要还是装备大刀梭镖，在机枪都还是稀罕物的情况下，火炮就更是奢谈了。在红军长征途中，决定整个红军生死存亡的大渡河之战中，中央红军也只有1门迫击炮和3发炮弹，可见红军炮兵的弱小。中央红军直到长征到陕北之后利用在东征和西征中缴获的火炮，在1936年3月才刚刚组建了第一个山炮连。
强渡大渡河时红军仅有的1门迫击炮发挥了巨大作用
强渡大渡河时红军仅有的1门迫击炮发挥了巨大作用
抗战时期，正是以这个山炮连为基础，于1938年1月组建了八路军总部炮兵团，在八年抗战中逐渐壮大发展，到19944年10月，在总部炮兵团的基础上成立人民军队历史上的第一所炮兵学校--延安炮兵学校。抗战胜利后，延安炮兵学校进入东北，改称东北炮兵学校，成为日后东北野战军炮兵部队的种子。
延安炮校成为日后东北野战军炮兵部队的种子
在抗战中，人民军队的武器来源不仅仅是像歌词里唱的那样"没有抢没有炮，敌人给我们造"，除了战场缴获，自己设法开办兵工厂生产也是重要途径。人民军队在抗战中得到了迅猛发展，但火炮尤其是大口径身管火炮却依然为数寥寥。到1945年8月日本投降时，共产党领导下的八路军新四军和其他人民武装，总兵力已经发展到127万人，装备的马步枪有44.7万支，迫击炮有1559门，但步兵炮只有124门，而山炮更少，只有区区58门。原因是战场缴获火炮本来就比较困难，各解放区总共有65家兵工厂，但大都设备简陋，生产子弹手榴弹或者步枪还可以，但对原料和加工技术手段要求更高的身管火炮，就无能为力了。
