中狭小加之天气渐热，战马如若继续困在城中会患病倒毙。第三军的骑兵师并没有一同攻打嘉兴城，而是在收复附近的州县。蒙古色目骑兵的心思，城中的蒙古汉军和新附军如何不知，他们在愤恨大骂之余开始私下串连，准备逃跑或投降。这些情况范文虎也是一清二楚，他只是贪和怕死但并不蠢。随着局势日坏，他已经弹压不住手下了。
范文虎的逃跑计划并没有得逞，因为守城的士卒们不肯。这并不是因为范文虎不带上他们，也不是伪军们要顽抗到底，而是要拿他的脑袋作为投名状。伪军士兵们深知范文虎的德性，早就暗中窥视着他的一举一动，当发现其心腹在偷偷作逃跑准备时，更是派了人暗中盯梢。当半夜时分范文虎带着几十名贴身心腹，自以为神不知鬼不觉，正欲从南门出城时，两边的小巷中突然杀声四起，火把通亮，几百名兵卒不由分说拿刀乱砍。范文虎急表明身份，又摆着官威大声喝斥，却招来一阵猛烈的箭雨，当即变成了一只刺猬。乱兵们见状一拥而上，将范文虎及心腹的头颅剁了下来，并乘夜往霹雳军营地方向逃去。