胡宗南视张灵甫为心腹之将，现在既然老蒋发话监禁，他也只好抓人。但他既没绑，也没有派人押送，而是由张灵甫独自到南京去。一路经过洛阳、郑州、徐州等地，因带的路费少，走了不到一半路程就囊空如洗。这时，张灵甫不甘为乞，想起来他还有一个特长可以谋生，便以卖字来摆脱困境。他自幼就模仿于右任的字体练习写字，从军以后也一直没有歇过手。因而写得一手好字。当时南京有很多商号的招牌都出自他的手笔。这次，他每走一段路就从集镇上找来宣纸写几幅，走一路，卖一路字。到南京后，他请求见蒋介石，但蒋拒绝出面，将他关进了“模范监狱”。当然这个为蒋立过功的团长并没有被当作牢犯看待，他还享有一定优待。实际上关他入狱，不过是掩人耳目罢了。狱中他仍可自由地活动，每天除了吃饭、睡觉，就练习写字，倒也轻松，甚至还将所写的字送给监管人员作纪念。这样关了一年多，蒋介石一直没有指示有关部门审理。他给友人的信中说：“为杀妻室当楚囚”。
“卢沟桥事件”发生后，南京国民政府下令，所有服刑官兵，除“政治犯”外，一律调服军役，戴罪立功，并保留原来军衔。曾任张灵甫上司的王耀武便向蒋介石求情：“张钟灵这个人作战很有本事，现在抗战需要干部，莫不如让他出来戴罪立功。”此言正中老蒋下怀。随即，张灵甫被秘密释放了。返回第七十四军五十一师的王耀武手下任职，并将原名张钟灵改为张灵甫。