至于"自杀之谜"，当时南京国府说张灵甫是"自杀成仁"，解放军则声称张遭"乱枪击毙"。
事实上，张灵甫在孟良崮被二十万解放军包围，其中十万是集中围攻其整编七十四师，他于最后阶段，确曾向蒋介石发出死前遗书："十余万之匪向我猛扑，今日战况更趋恶化，弹尽援绝，水粮俱无。我与仁杰(副师长)决战至最后一弹，饮诀成仁，上报国家与领袖，下答人民与部属。老父来京未见，痛极!望善待之。幼子望养育之。玉龄吾妻，今永诀矣!"故张极有可能是自杀，到今天，中国内地电视剧《红日》也以张与军官集体自杀的场面来处理。
另一方面，据当时中国人民解放军华野二号人物、负责战役指挥的粟裕属下给出的报告，张灵甫却是死于乱枪之下。因为，时有第四纵队司令陶勇，闻前线将士声称张灵甫已死，特率众上山寻找张尸，发现其前胸中了多弹，随队军医判定为发自二百米外、由加拿大制造的美式冲锋枪子弹口径(时解放军用此型号枪枝)，故如实上报粟裕，是以张灵甫之死竟成了"罗生门"。
