张汉卿似是明了其心迹，在信的末尾诚恳地说；“我知荩忱（张自忠的字）兄忠义过人，但忠于国家谓之忠，忠于个人谓之义。人民军以统一国家、强大民族为已任，亟需如兄之人才为辅。盼兄以民族大义为重，舍小义而换得民族复兴，则中国幸甚，百姓幸甚！”
思忖再三，张自忠决定加入人民军，他在留给冯玉祥的信中说：“冯将军敬启：荩忱跟随师长已逾4年，每思报效国家，终恨无门。民国自成立以来，军阀混战，民不聊生。张少帅汉卿者，以统一国家振兴民族为已任，素为荩忱所敬仰。今将弃君而奔彼地，因行事匆匆，不及面辞。望将军能以国事为重，谅解荩忱一片苦心。我闻君子交绝，不出恶声。临别赠言，为荩忱肺腑之语。”
张维玺、张自忠两员大将加盟，使张汉卿欣喜异常。他也言出必诺，安排张维玺任于学忠第8师一旅代旅长，以张自忠任司令部高级参谋兼军官教导团副团长（军衔升为上校）。
受其影响，佟麟阁也来到了少帅帐下，同样也获得了重用。有样学样，冯系士官接连跑了十几个骨干，有的甚至是连同所辖部队一夜之间全部倒戈。
冯玉祥对张汉卿是吓怕了。他的几员虎将一个一个先后离开，对他的部队的稳定和士气的影响是巨大的。他像一头暴恕的狮子，将自己关在房内咆哮了一天。不过为了防止更大的损失，他主动放弃了淮河以南的地盘，在皖北的部队也全部都集中在几个大城市，以有效避免人员流失。
人民军援军先头部队是在4天后进入合肥城中的。安徽民众热情欢迎人民军的到来。早就听说人民军是民国初年中国军纪最好的军队，真是闻名不如见面，见面胜似闻名。合肥大商赵延宗在清晨推开窗户时，意外地发现自家楼底下的光明大道两旁整整齐齐的人民军士兵席地而卧，整整一夜都没有民众受到惊扰，这是民国军阀征战各方所从没有的事情，不由得从心底呼喊：“得民心者得天下，人民军得天下已经不远了！”