在这关键一刻，关东军采取恩威并施的手段，对义勇军后方发难。负责断后打援的程志远为自保实力，选择叛敌。
程志远本是马占山手下悍将，但绿林出身的他，面对关东军强大攻势，以及伪省长的头衔诱惑，选择调转了枪口。战局迅速逆转。
丁超、王之佑等也接连叛敌。不断出现的叛将，使得义勇军内部军心摇动。
5月中旬，程志远杀气腾腾地反手攻打依兰，面对曾经并肩作战的义勇军和中国老百姓，他一样心狠手辣，很快就攻陷了兵力空虚的依兰。
之后，黑省义勇军最终被日军各个击破。
到了1932年秋，辽宁省各地已兴起百余支民众抗日武装。为了统一作战，东北民众抗日救国会派专员统编辽宁省各地义勇军，将其编成五大军团，全省义勇军武装达15万人之多。
东北民众抗日救国会成立目的，就是为了统一领导辽宁省义勇军，委任各路民众武装的领导人。然而，救国会远在北平，下达的指令难免"远水救不了近火"。
而辽宁义勇军愿意接受东北民众抗日救国会的领导，很重要的原因在于救国会一直在关内广泛筹集军费，仅张学良一人就捐款30万元，这些军费用来为义勇军购买枪械弹药。戴茂林的《八年抗战中的东北救亡总会》中引援了日伪资料记载，救国会仅在1932年11月间，运抵辽宁的物资就达20多吨，包括山炮4门，轻重机枪8架，炮弹2000发，子弹30万粒，手雷5000枚，无线电1台。
然而，救国会并没有在本质上改变辽宁义勇军的状况，辽宁义勇军最终还是因为弹药耗尽而被迫撤离。
义勇军在东北的山谷、河湾、铁路和高粱地里，凭借手中的一切武器，甚至没有武器，不间断地开展偷袭、暗杀。他们乘夜色，乘有利地形，乘霜雪，甚至乘一时豪情，三五成群发动自杀式攻击。这样的战斗意志大大超出了日军的预期，致使日军伤亡惨重。随即而来的就是疯狂的报复，日本派出大批兵力进入东北，带来了重炮、飞机、坦克等重武器。
从1932年10月开始，日军在东北的兵力已由一个师团、一个独立守备队增加到7个师团，外加各种精锐兵种，总兵力达13万人以上。
1932年10月中下旬，日军出动一个师团、两个旅团，在伪军配合下，对义勇军进行决定性"围剿"。辽宁义勇军力量分散，各部仓皇迎敌，被日军各个击破，其残部除少数投敌以外，大部撤往热河。
日军随即挥师北进，以2万余重兵向马占山、苏炳文等部发起"围剿"，马、苏各据点相继失守，马占山、苏炳文被迫率残部从满洲里越界入苏；另有一部在邓文、李海青率领下寻路绕道内蒙古进入热河，继续抗日。义勇军在黑龙江省内主力已经不存在了。
1932年末，日军挥师直指绥宁及乌苏里江、黑龙江下游，这是东北最后的未沦陷区，零下30度的冬季封锁加上现代化坦克重兵的联合绞杀，李杜、王德林等人被迫在1933年1月率余部从虎林撤往苏联。
至此，东北义勇军主力败退，日军实际占领东北全境。
但日军也为此付出惨重代价。据日伪《盛京时报》1933年10月3日披露，九一八事变后的一年中，关东军战死将校99名、准士官以下1750名；负伤将校243名、准士官以下4819名，总计死伤6911名。实际伤亡数字远超出这个数字。日军第二师团在义勇军沉重打击下，于1932年末撤回国内"休整"。
1931年，沈阳街头的义勇军。"九一八"事变后，沈阳的沦陷，促使辽宁省内的东北军最先撤入关内，兴起义勇军组织。图/GETTY
中国共产党扛大旗
1933年1月26日，中共中央发出了"给满洲各级党部及全体党员的信"(即"一二六指示信")。信中分析了东北各种抗日武装的性质和前途，认为东北的抗日游击战争是群众性的斗争，包括了四种武装力量。其中，党领导的游击队"是一切游击队伍中最先进最革命最大战斗力的队伍"。指示信中最核心的一句话是：在东北建立全民族的反日统一战线。
1932年底到1933年初，30万之众的义勇军几乎全部崩溃，东北的抗日力量丧失殆尽。
中国共产党决定从溃逃的义勇军将领手中接过大旗，一批由中共领导的抗日游击队将奔赴前线，率领义勇军余部，在白山黑水间，开始他们的征程。
1936年2月10日，中共驻共产国际代表团以中共中央的名义发布了《为建立全东北抗日联军总司令部决议草案》，提出全东北抗日军队统一名称，改为"东北抗日联军"。
一年后，东北抗日联军完成组建，发展成十一个军，人数最多时有3万多人。其中，第一、二、三、六、七等军是在共产党领导的基础上建立的，第四、五军便是以当年王德林的救国军、李杜的吉林自卫军为基础组成，救国军中的中下级军官如柴世荣、陈翰章、史忠恒、王汝起等人纷纷加入中国共产党，成为抗日联军师团级以上干部。赵尚志领导的抗联第三军计有6000余人，其中4500余人为义勇军余部。杨靖宇领导的第一、二军也吸取了相当数量的辽东及辽吉边区的义勇军余部。其他如第八、九、十、十一军则完全是由当年的义勇军或地方民团改编而成。
根据日本陆军省1936年3月18日公布的数字，从1931年"九一八事变"到1935年底，关东军战死者4200人，伤病者171300人；加上关东军参谋部统计的1936年到1937年9月的伤亡数字，"九一八事变"后的6年中，关东军在东北战死、伤病者共达178200人。这个数字是"九一八事变"时日军驻东北兵力的8倍。
