经过组织考验,谢文东加入共产党,成为一名党员。1936年9月18日谢文东的部长被改编为东北抗日联军第八军,谢文东任八军军长。抗联八军在谢文东的领导下,纵横转战于依兰、宝清、方正等县,给日寇以沉重打击。1939年冬天始,日本关东军出动70万关东军与30万伪军对东北抗联进行疯狂围剿,谢文东领导的八军由2000多人锐减到几百人,被分割包围在不同区域。1939年3月19日,在叛徒的游说下,弹尽粮绝的抗联八军仅余24人在谢文东的带领下,向日军投降。
日本关东军司令官植田谦吉与伪满洲国国务总理大臣张景惠亲自接见了谢文东,并许以高官厚禄,被谢文东拒绝,从新京返回依兰船上,谢文东欲投松花江自尽,被拦未随,后居勃利县境,在日军的看管下作了一名普通矿工,直到抗战胜利。
抗战胜利后,国府光复东北,谢文东被蒋介石亲授为国民党第十五军上将总司令。1946年,谢文东部队被合江军区部队包围,伤亡投降数百,46年4月底,合江军区对依兰太平镇、湖南营发起攻击,1500余名十五军国军被歼,谢文东率2000余人撤往鸡西,在鸡西又遇共359旅围剿,被击溃后与当地匪首李华堂、张雨新部汇合,拥众9000余,并占领刁翎县,8月6日,合江军区小分队与359旅包围了谢文东部,谢文东部被歼7000余人,谢文东率部进入深山老林,继续抵抗。经过合江军分区继续围剿,谢文东遭受重大打击。
中共合江省委省政府决定实行攻心战术,派人劝降谢文东,谢文东说:“我已无路可退,再说国民党是中央政府,代表国家,你们共产党也归他管,何况我了,我既受了政府委任,就只有听政府的了”,劝降虽告失败。