1931年11月，中华苏维埃共和国临时中央政府根据第一次全国苏维埃代表大会的决定，正式组成了中华苏维埃共和国中央革命军事委员会，朱德任主席，王稼祥、彭德怀任副主席，关向应被任命为中央革命军事委员会委员，参与中央军委领导工作。
同贺龙率八路军一二○师奔赴抗日前线
1937年7月，抗日战争爆发。中国工农红军改编为八路军，红二方面军改编为八路军一二○师，贺龙任师长、关向应任政治委员。8月，关向应参加了中央政治局在洛川召开的扩大会议。9月，关向应、贺龙率领一二○师东渡黄河，挺进山西，点燃了晋西北的抗日烽火。他们在雁门关附近伏击日军辎重部队，摧毁汽车上百辆，首战告捷，收复了雁门关，切断了大同至宁武、代县的铁路、公路交通，迟滞了日军向太原的进攻。
