开封，位于河南东部平原，北濒黄河，南倚陇海铁路。是一座历史名城，它为五代梁、晋、汉、周及北宋之故都，是当时国民党的河南省会，也是中原重镇，约有人口40万，在政治上和军事上都占有重要地位。
粟裕选择开封为攻击目标，完全出乎了敌人的意料。当我军即将发起战役时，敌人还蒙在鼓里。开封守敌认为我军是吸引国民党军队主力至鲁西南决战，“在开封无真正战斗”。
国防部和徐州“剿总”，虽曾觉察到我第3纵和第8纵队有围攻开封的征候，但见我军两大集团南北对机，乘敌把注意力集中在鲁西南时，突然对开封守敌发起了攻击。进，即认定我军企图夹击邱兵团，因而十万火急地向鲁西南调集兵力，要与我军进行决战，尤其可笑的是敌华中“剿总”，还坚持说我第3纵和第8纵队尚在方城以东地区。然而，我军却在敌重兵紧紧跟踪和严密监视的情况下，创造了歼敌的条件，捕捉到有利的战6月17日晚，我3纵、8纵在陈士榘和唐亮的指挥下，向开封守敌发起攻击。2纵一部配合8纵，首先肃清了南关车站的农林试验场、东闸口、16营房范围以东及曹门关的敌人，准备由东面、北面实施攻城；8纵另一部首先肃清了南关车站之飞机场、17营房、7营房以西区域及西门外之敌，准备由南面、西面实施攻城。总攻前，大部守敌被肃清。
18日夜晚11时，总攻开始。
夜幕笼罩下的古老的开封城，突然弹雨横飞，炮火轰鸣。我军用强大的炮火，支援突袭的攻城部队，仅用五六分钟的时间，我攻城部队就抢占了小南门城楼。
小南门丢失以后，敌人疯狂进行反扑，用密集的炮火封锁了小南门我后续部队的前进道路，使我入城的5个排和后续大部队分割开来，情况十分危急。
陈士榘、唐亮命令部队，要不惜一切代价打退敌人的反扑，让后续部队跟上去，以解救城中腹背受敌的部队。
同时，陈、唐又命令部队加紧对宋门的攻击。宋门工事坚固，易守难攻，我攻城部队久攻不下。
宋门距宋门关有七八十米的开阔地，再向外是一条壕沟（无水），深5米，宽约20米，宋门的右侧约20米外，有一个三角地堡，低矮坚固，可容纳一个排的兵力，堡外挖有壕沟（无水）和铁丝网等城防设备；城门是用麻袋装土堵塞的；城门楼顶部筑有一个较大的碉堡，周围有四五个小堡，与大堡互相沟通，是坚守城门的制高点，宋门两侧100米至200米的城墙上皆筑有明、暗堡，组成交叉火力网，严密控制着宋门。
根据上级统一战斗部署，6月19日晨1时左右，我各种炮火向宋门猛烈轰击，顿时宋门前沿烟雾弥漫，成了一片火海。在烟雾的掩护下，我部队的爆破突击队对宋门实施爆破。经过我爆破突击队的反复冲锋爆破，终于炸开了宋门，攻城部队开始向城内突击。
当宋门被我突破后，城内守敌在装甲车和炮火的掩护下，对我进行反击。
陈、唐命令部队要不惜一切代价坚守住城门突破口，以保证后续攻城部队进城。
我8纵乘3纵突破宋门敌火力转向宋门之际，组织力量迅速扫清小南门外侧敌地堡群，再度控制突破口，主力部队随即打入城内与城楼坚守部队会合，随后又相继突破大南门和西门。这样，3纵、8纵主力部队全部突进城内。纵队指挥部也进城亲临指挥，各部队多路向敌人纵深穿插进行激烈巷战。到6月21日，开封守敌被全歼。
此役，共消灭敌人3万余人，开封守备司令、整编第66师师长李仲辛被击毙，参谋长游凌云被活捉，缴获了大量粮秣弹药。美联社6月26日上海电称：“共军在开封所获物资、武器与军火，使其能把华中作战支持到夏季结束。”尽管这有些夸大，但华野确实缴获了6000多支库存步枪，3000多桶汽油，32门大炮，以及其他大批军用物资。为了能将这些战利品运走，陈士榘、唐亮请示华野首长专门向军委、中原局、华东局报告，命令4纵、特纵在兰封以西构筑阻击阵地，以求多控制一天，组织大批民工抢运战利品。