1940年5月，由于暂编骑兵第一师损失惨重被第一战区长官部暂调后方豫西、舞阳等地进行休整。7月全师调赴皖北的临泉及豫皖边界的沈丘两县，并被整编为骑兵第八师，马彪仍为师长。整编后的骑八师仍属洛阳第一战区战斗序列，同时有接受第五战区李仙洲集团军的指挥。1940年8月，骑八师又调赴皖北涡阳、蒙城、怀远一带，负责牵制津浦铁路蚌埠段的日军。骑八师经常突袭日伪敌军，破坏敌占区铁路、公路、桥梁等以断敌交通，给日军物资运送造成困难，并牵制了敌军的行动。当时日伪军称骑八师为"马回子军"或"马胡子军"。同年9月，骑八师工兵连和一个步兵大连进驻怀远县涡河北岸的重镇龙亢镇，修筑公路，埋设地雷，与日军展开激烈交战，终使日军仓惶撤退。数百名日兵陈尸阵前，因来不及运走，日军仓惶中只割走各尸体一只胳膊而溃逃。龙亢战役，使得皖北一带的日伪军如惊弓之鸟，闻风丧胆，再也不敢轻举妄动。从此，"马胡子军"的威名传遍皖北敌占区。
1939年秋，暂编骑兵第一师第二旅接替原国民党第四十军庞炳勋补充团，执行豫周口至槐店的河防任务，基本上袭用原布置执勤。在缺乏新的防御武器条件下，征用民间古老的防守堡寨的大小土炮，编制成抗日土炮队，赶赴河防，分别部署在主要渡口和据点。土炮的弹药自行解决，办法是收集民间破铜烂铁，最好是破铁锅砸碎后的大小渣粒。
