就在此时，张灵甫的军事生涯戛然而止，他惹上了官司，罪名是故意杀人，被害人不是别人，正是张灵甫当时的妻子吴海兰。
至于杀妻的原因，坊间流传着很多版本，有说因张灵甫怀疑吴海兰有外遇愤而杀妻，有说是因为吴海兰盗取了张灵甫的重要文件而招致杀身之祸。不管哪种是真，张灵甫坐牢已成必然。
然而，张灵甫的牢狱生活过了不到一年，就因1937年的七.七事变而出现转机。抗战爆发后，国民政府下令所有服刑官兵除政治犯外一律调服军役，戴罪立功，并保留原军衔。
