1945 年底，由新四军改编而来的华中野战军创办了延安工农学校华中分校，日向胜被任命为炮科总负责人。在华中野战军领导的支持下，日向胜走遍各主力部队，寻找 "尖子战士"(即有一定文化基础的士兵)，因为炮兵技术需要几何知识，没文化肯定学不好。经过一番努力，1946年2月，华中野战军首支正规化炮兵教导队成立，编制约1200人，教学装备就是日军遗留的巧门41式山炮。
为尽快提高技术素养，日向胜主张炮兵教育必须从头开始，他与原日籍老兵、中国翻译一起编写教材，制造教学工具。不料没过几个月，和他一起参加新四军的其他7名日籍军官都北上支援东北民主联军去了，日向胜的工作压力更大了。
