15日13时，华东野战军各部从四面八方发起总攻后，国民党军第74师凭借强大炮火拼力抵抗，战况空前激烈，每一个阵地，每一寸土地，都要经过多次反复争夺。华东野战军的指战员们不怕牺牲，浴血奋战，越战越勇，相继攻占雕窝、大碾等要点，逼近孟良崮。整编74师在抵抗无效后，倾尽全力企图突围，先向南，被第6纵队打回，后向西，被第1纵队顶住，再向东，又被第9纵队拦截。第74师横冲直撞，处处碰壁，被迫于15日晚麇集于孟良崮、芦山以及600高地等几个山头上。
孟良崮是蒙阴山区著名的72崮之一，四周陡壁，地势险峻。第74师防御均在岩石山地，难以构筑工事，人马辎重堆集山头，暴露于外；时值夏天烈日当头，溪流干涸，水断粮缺，弹药不足，空投的物资又大多落在阵地外面。士兵们饿无食，渴无水，军心动摇，怨声四起，但张灵甫仍组织部队，企图固守待援。
对此，国民党军第1兵团在战后的《检讨》中认为把大军集结于孟良崮一带乃一大失策，“如孟良崮之孤立岩石重山，工事构筑困难，人马炮火又无遮蔽，尤以缺乏水源，使战斗不能持久。故此类阵地以限于小部队占领为警戒阵地或一翼之依托为宜”。（《第一兵团蒙阴东南地区战役战斗详报》）
15日夜，华东野战军首长在获悉第74师的上述企图和各路援军急切迫近的情况后，命令各攻击部队坚决连续冲击，一定要在敌军援兵赶到之前，彻底消灭74师。当时任第1纵队司令员的叶飞在战后的总结中，特别谈到当时面临的严峻情况，他说：“如在16日不能解决问题，我们只好撤退；而如果撤退，由于我们已搞得精疲力竭，沂水等地都要丢掉，可能还要长征；因此指挥部曾严格命令，要求各级要严加督促，于16日消灭第74师，即使牺牲两个纵队，也要迅速解决问题。”
各部按照上述命令，立即集中强大炮火，向第74师的阵地猛烈轰击，山上弹片飞舞，碎石腾空，火光冲天。74师建制被完全打乱，指挥失灵，人马混杂，互相践踏。华东野战军乘机突入第74师阵地，与敌展开白刃格斗，顿时血肉横飞，尸体遍地。16日6时，74师参谋长向汤恩伯报告：“15日夜，终宵战斗，敌我伤亡均极惨重，请空投粮弹，并望援军速进。”（《第一兵团蒙阴东南地区战役战斗详报》）
激战至16日8时，第9纵队等部再次攻占雕窝，又相继攻占520、540高地，13时攻占芦山。关于雕窝的得失情况，第9纵队在战后总结中是这样写的：该纵队于15日11时攻占雕窝后，即派1个副营长率2个班固守，但当敌向此点反击时，他未作顽强抵抗便擅自撤离；后经组织强大炮火协同步兵猛攻，复于16日8时夺取该点。
蒋介石、顾祝同虽命令连日派出大批飞机向74师空投物资，但至16日上午，该师的粮弹供应已陷于绝境。原来第1兵团曾电告该师以“铺设布板表示位置，烧烟火表示风向”，为空投示意办法。但这个联络符号很快被华东野战军从俘虏口中获悉，亦如法炮制，加上敌军阵地极其狭窄，因而其空投物资的十之八九均为华东野战军所得。战士们边吃边放声笑道：“运输大队长蒋介石还真不错，供应挺及时哩！”
74师官兵见此情景，更是满腔怨气，只有大骂空军无能。16日11时，张灵甫一不见援兵，二得不到粮弹，且与第1兵团的直接联系已经中断，又急又气，乃通过第25师的电台转告第1兵团：“粮弹不必再空投了！”（《第一兵团蒙阴东南地区战役战斗详报》）
第1兵团在此役惨败后的《检讨》中仅列举了三条原因，除第一条是地形不利外，其他两条都是关于空投方面的：“预期须赖空运接济之部队务须占领一个平坦而显明之地区，庶投掷容易，且能确实接收，否则既足敌且使敌知我粮弹缺乏，增加其攻击决心与勇气”“陆空联络符号须采用一时难以仿效之方法。敌我接近之际，我军敷设布板为符号，因其方法简单，易被敌军模仿，空军难以判断，似应制作较为繁难之方法”。（《第一兵团蒙阴东南地区战役战斗详报》）
16日中午，天阴云低，满山烟雾，能见度很差。华东野战军各部在攻占芦山后，已连续奋战3个昼夜，部队极度疲劳，且误以为第74师已被全歼。有的去找物资，有的去抓俘虏，有的撤下来休息。当野战军指挥机关发现，上报的歼敌总数与原来掌握的敌军总数相差甚远，遂令各部严加搜索，结果查出尚有残敌7000余人，利用当时气象条件，隐伏于孟良崮与600高地之间的山洼地带。
16日14时，华东野战军组织部队向敌第74师残部发起最后一次冲击。部队以排山倒海之势，从四面向山洼压来。张灵甫仍指挥残部，拼力抵抗。当第6纵队特务团冲向设在山洞中的第74师指挥所时，张灵甫急令其参谋长魏振铖率领1000余人冲到山腰，拼命阻击。特务团冲上去，即被压下来，又冲上去，又被压下来，经过多次冲击拼杀，终于歼灭该敌，生擒魏振铖。
张灵甫又令卫队长率领100余人，从洞内冲出，占据洞穴、岩缝，作困兽之斗。解放军奋不顾身，以抵近射击和白刃格斗，将此敌歼灭，控制了洞口。随即集中火力向洞里猛烈射击，趁着弥漫的烟雾，冲进指挥所内，只见尸体狼藉，血污遍地，张灵甫已被击毙，手里还紧握着报话机。
战至16日16时，国民党军整编第74师以及整编第83师第19旅第57团全部被歼灭。顿时“张灵甫被我们打死了！”“红旗插到孟良崮的最高峰了！”的欢呼声满山遍野，震天动地。