衡阳会战对日军而言，可说是在中国战场上，最惨烈的一战，后来依据日军曾参战的官兵描述衡阳之战，中国军队根本是拿手榴弹当刺刀在使用，革命军将三颗手榴弹串成一串，看到人影就丢。
血战间日军的兵力前后补充了三次。在城郊的阵地争夺战中，日军付出了损失两万多人的代价，而中国守军至最终只损失了不到一万人，这种战损比在当时日军中是不可接受的。包括了日军第68师团长佐久间中将、参谋长原田贞大佐残废，和第57旅团长志摩源吉少将阵亡才得以近逼市区。血战期间在日本国内更因各地的战况不利，导致东条英机的军人政府因而倒台。
衡阳战役的历史意义在于延缓了日军“打通大陆交通线”战役的步伐进程，加剧了日本内阁的危机，并最终导致了东条内阁的垮台。