「西安事变」和平解决后，1936年12月25日，张学良送蒋介石回南京，被蒋扣留，从此一去不返。近20万东北军群龙无首，并在主战、主和问题上发生严重分歧，最后竟发展到内部互相残杀。 蒋介石是被东北军扣押在西安的，因此对该部队深恶痛绝。抗战的序幕拉开以后，1937年3月，他借机将东北军东调。东北军将领遂钻入了各军不相统属、被蒋介石分割使用的圈套。 从4月到6月，东北军进行整训、缩编，由每军四师的甲种军缩编成每军二师的乙种军编制。于是东北军离开陕西，分驻豫南、皖北、苏北地区。整编后的东北军共6个军，在战场上逐渐被瓦解，其结局分述如下。 第四十九军（军长刘多荃） 1937年8月中下旬，刘多荃率第四十九军进驻沧县及静海附近，与南下日军发生激战，被迫向南撤退。1937年10月底，四十九军被调到淞沪战场，损失惨重。
蒋介石将该军一个师划归第一战区的刘峙指挥，四十九军的一个师就这样被剥离。1939年，刘多荃作战失利，由中将军长降为上校军长；副军长高鹏云、参谋长秦靖宇相继被蒋介石调离，第四十九军名存实亡了。 第五十一军（军长于学忠） 1937年8月，第五十一军被调往山东。1938年1月，日军夹击徐州，于学忠以五十一军两个师的兵力约2.5万人死守蚌埠，伤亡7000余人。1939年2月，于学忠被任命为鲁苏战区司令，指挥东北军第五十一军、五十七军在鲁南山区打游击。从1939年到1943年，在鲁南抗战的5年中，于学忠部损失甚大。1944年3月，于学忠被免去苏鲁战区司令的职务，任国民政府军事参议院副院长，从此失去军权。国共决战时期，第五十一军被改为整编第五十一师，周毓英任中将师长，驻守枣庄。1947年1月，周毓英率部向中共的华东野战军投降。
