8月7日夜,第10军军长方先觉派参谋长孙鸣全与日军联系投降事宜;8日晨,方先觉率其第3师师长周庆祥、第190师师长容有略、预10师师长葛先才、暂54师师长饶少伟及副官处处长孙广宽在城南天主堂与日军第68师团师团长堤三树男会见,正式缴械投降。据日军记载,缴械的官兵共13306人(大部为伤病员,能战斗者约4000人)。此时,不愿投敌的部分官兵“仍在城内进行抵抗”。由第四战区抽调来援的第46军等已进抵距衡阳8公里的二塘。
衡阳失守后,第九战区以一部兵力在衡阳以西攻袭日军,主力撤至洪桥一带。日军经休整、补充后,9月1日开始进攻:第3、第13、第40、第58师团向零陵、全县,第116、第37师团向邵阳进攻。守军第37军在常宁进行了较顽强的抵抗;第79、第62军在白鹤铺、大营市一带,第74、第100军在渣江、永丰一带,稍事抵抗后再次后撤。日军于9月5日攻占祁阳,7日攻占零陵,13日占道县,14日不战而占领筑有坚固国防工事的全县。至此,长衡会战结束。