但是，顾祝同过低估计了解放军的实力。当年在江西、苏中时的老对手，华野正副司令陈毅、粟裕将军采取挖心战术，于4月14日将其“御林军”国民党五大主力之一、整编第七十四师包围在孟良崮地区。顾祝同急令第七军一个师和第三十八师驰援解围。并于16日24时传达蒋介石的旨意，要求部属“把握战机，万众一心，共同作战”，严令增援部队于17日攻占孟良崮。但就在他下达命令的同时，整编第七十四师全部被歼灭。
顾祝同对这次山东战场上寄予了很大希望，原以为会有所作为，以挽回败局，在蒋介石面前好好表现一番。没想到事与愿违，当他听到张灵甫的整编七十四师全军覆没、师长张灵甫举枪自杀的消息后，顿时目瞪口呆，瘫坐在沙发上半天一言不发。
第七十四师被全歼的消息传来，顾祝同并没有罢休，而只是下令暂时停止进攻，调整部署。然后采用所谓“并进不如重叠，分进不如合击，以三四个师重叠交互前进”的作战方针，于6月下旬再度向沂蒙山区发起进攻。