由于对敌情疏于侦察，情况不明，李家钰率部到达张家河谷底时，埋伏在安家山上的日军已居高临下，对其形成包围。中午时分，当缺乏战斗力的总部人员及家属刚登上旗杆岭，早有准备的日军大队人马从山头上冲下来，李家钰率部与敌战斗，背部和左腋下连中两抢和一片弹片，壮烈殉国。同时受伤的一个士兵后来回忆说，他跟着李总司令跑，看到李家钰挨了敌人两枪及一个榴弹碎片。李家钰还挣扎着跑了几步，终于倒在了旗杆岭上。同时把鲜血洒在陕县土地上的抗日将士还有200余人。担负殿后任务、跟在总部后边的四十七军一〇四师闻讯赶来，在南寺院与日军激战，悬赏募来五名敢死的士兵，冲到旗杆岭上，将李家钰的遗体抢回。
李家钰殉国后其遗体旋即被运回四川，这是继第三十三集团军总司令张自忠战死于枣宜会战后，国民政府丧失的又一位集团军总司令。
李家钰抗日殉国后，四川省各界爱国人士为他举行了隆重的追悼会。6月上旬，成都各界举行了隆重的公祭和追悼会，国民党四川省政府主席张群称："其相'贤人君人，肝脑涂中原，膏液润野草'。"重庆国民政府称其"器识英毅，优娴韬略"，"中原抗战，急赴前锋，喋血兼旬，以身殉国"。
