转战上坊镇和华严寺，将近五天的奔波激战，全团十二名连长五人伤亡，官兵折损已近千人。张灵甫因伤势严重，渡江后不久暂别部队回到西安养伤。
1938年4月，51师在黄陂接受军委会校阅，获得军委会校阅官的优良考评，张灵甫305团的成绩在阅后评定中，名列全师第一。
1938年5月28日张灵甫率305团参加兰封会战之三义寨攻坚战，伤亡百余人。
1938年万家岭大战，已是51师153旅少将旅长的张灵甫奉王耀武之命，对驻守江西德安张古山的日寇进行反击。讨论作战方案的时候，众人认为张古山地势险要，易守难攻。张灵甫拍案而起，道：“各位都看过《三国演义》，魏国大将邓艾为攻取成都，出蜀将之不意，带精兵暗渡阴平，飞越摩天岭，一举攻克了江油、涪城和成都。我们也可仿此战例，大军从正面进攻的同时，再挑选一批精兵强将，从人迹罕至的张古山背面进行偷袭，以收两面夹攻之效。”于是，张灵甫亲率一支突击队效法邓艾轻装出发，攀木挂树，穿过艰险的深山峡谷，老林恶水，配合正面部队进攻，飞夺张古山。而后日寇不甘失败，出动飞机与重炮狂轰滥炸，几乎将张古山夷为平地。张灵甫率部浴血死战，与日寇鏖战五天五夜，阵地得而复失、失而复得，反复拉锯。亲临死线指挥的他身中7块弹片，鲜血直流也没有退下火线。张古山的攻取封死了日军106师团的最后退路，该师团最终几乎全军覆没。日本俘虏后来交代，当时只要**再推进100米，106师团的师团长就只得剖腹了。这差点成为八年抗战中唯一一次全歼日军一个师团的战例。
得知德安大捷之后，田汉受时任******军事委员会政治部第三厅厅长郭沫若的委派，采访张灵甫等人，刊登《中央日报》，并编写的话剧《德安大捷》，张灵甫以真名真姓在剧中出现，从此名震天下。德安战役之后，张灵甫荣获四等云麾勋章、三等宝鼎勋章。1939年3月，张灵甫率部参加南昌会战，在一次战斗中，右腿被日军机枪的两颗子弹扫中，受了重伤。军医检查后说：“腿要锯掉!”张灵甫对随从副官说：“如果我昏迷了，你要阻止医生锯腿!”说完，他给了副官一把手枪，厉声说：“谁锯我的腿，你就枪毙谁!”结果右腿一直未治愈。由于腿伤迟迟不愈，蒋介石派飞机将他送往香港，请英国著名外科专家克雷斯特尔为他诊治。手术后不久，张灵甫在报上看到有战时军人不宜出国养病的新规定，不顾英国医生再治疗一月可以痊愈的劝阻，说军命不可违，军人死不足惜，何惜一足，伤未愈提前归队，灵甫从此留下残疾，走起路一跛一拐，人送外号“跛腿将军”。
1940年冬，张灵甫出任74军58师副师长。
1941年3月15日，张灵甫代理58师师长（58师师长廖龄奇当时去湖南岳麓山参加军官训练团学习，不在任上）指挥58师参加上高会战，作为上高会战的首功部队74军的核心部队58师与余程万的57师一起与日军血战11日，在其他部队到达后，率58师首先反击，重创日军34师团，33师团，74军伤亡万余人。
1941年9月26日，第二次长沙会战，日军调集南京大屠杀的元凶第6师团，精锐的第3师团，以及第40师团围攻74军，在永安58师孤军作战，与日军精锐的第3师团主力和第6师团一部混战，第3师团在作战期间损失严重，仅步兵第18联队就死了八个中队长，花谷旅团伤亡人数据日方的报告达八百余人，11军军长阿南惟畿在永安之战后认为该师团损失甚大，以致不忍使该师团再向株洲追击一事来看，日方战史所报的该师团实际损失人数很可能大为缩水。58师在第二次长沙会战中参战官兵为官兵约一万一千九百人，伤亡超过百分之四十，其中阵亡将近百分之十。
1941年10月24日张灵甫接任58师师长。
1942年6月浙赣会战，张灵甫率58师在衢州外围与日军血战3日，击毙敌86联队第3大队队长长岛田仁次郎，74军伤亡4000余人。
1943年6月张率58师参加鄂西会战.6月6日，74军58师与51师携手打击日军独立混成第17旅和第3师团，两师协同夹击敌独立混成第17旅团，使得该旅团成为日军在鄂西会战中损失最大的一支部队，其独立步兵第87大队大队长浅沼吉太郎和第88大队大队长小野寺实也在这两天的战斗中殒命。6月13日，张灵甫率58师主力收复公安。
常德会战期间张灵甫题赠蔡锷遗集1943年11月常德会战，日军精锐南京大屠杀元凶13师团主力5个联队猛攻慈利，慈利地区正面主阵只有张灵甫58师孤军作战，日军另一精锐师团第3师团全部和13师团剩余部队一起与74军另一师51师，100军激战在慈利附近地区，74军、100军顶住日军两个精锐甲种常设师团5昼夜的进攻，其中13师团慈利战后伤亡近一半，张灵甫转守为攻，向13师团残部发起猛攻，率58师收复黄石，九溪。58师略事整顿，于12月8日复向停留在漆家河畔的