日军也认识到杨靖宇将军的威胁，于是在1938年到1940年对长白山组织了大规模进攻。由于是孤军苦战，东北抗日联军的战斗逐渐进入到非常艰难的时刻。杨靖宇将军身边的部队越打越少，由于叛徒的出卖，日军死死地咬住了杨靖宇将军。在战后的统计之中发现，仅仅为了追击杨靖宇将军一个人，日军就动用了这一年日本整个GDP的1%。换句话说，假如中国当时有100个杨靖宇将军，那日军根本不可能在中国继续作战下去。
杨靖宇将军仅剩一人，最终被日军包围于河岸之边。但就在最后的时刻，日军与杨靖宇将军居然还有一段对话，在日本的《满洲国警察外史》之中可以找到了这段对话。当日军指挥官西谷喜代人指挥日军和伪满军警向杨靖宇将军靠近时，他下令部队停止前进，然后开始喊话："君是杨司令否？"可见日军在最后时刻对杨靖宇将军还有一丝尊敬，称呼他为杨司令。西谷喜代人试图劝降，但是杨靖宇将军回答道："不必多说，开枪吧。"
