开封战役发起前，攻城部队自上而下进行了政策学习。通过学习，攻城部队全体指战员表示：坚决执行党的城市政策，光荣地进去，干净地出来，争取军事、政治双胜利。为使城市政策的贯彻执行在组织上予以保证，从师到团都建立纪律纠察队，由政治部主任和民运部部长担任正副队长，班和小组设立纪律检查员。
战役发起后，国民党军队在城关、市区到处焚烧，蒋军出动三大飞机群狂轰滥炸（6月20日一天就投炸弹20吨），给开封人民带来了极大灾难。国民党守军官兵也趁火打劫，抢夺群众财产，哄抢珍贵文物等，开封全城一片混乱。与此相反，人民军队在攻城战斗中，尽管战斗激烈，各纵队仍一面组织战斗，一面派出部队冒着敌机的轰炸和扫射，竭尽全力扑灭大火，救护群众，抢救和保护群众的财产。在南关，八纵攻入国民党军纵火的河南大学农学院，立即组织部队灭火救护师生，抢救被烧房屋和图书、仪器。
攻入济汴中学的八纵六十五团，发现学校师生被国民党守军禁闭在室内，因飞机轰炸已伤亡多人。他们为抢救师生脱险，有的指战员负了伤，有的献出了宝贵的生命。开封人民发自肺腑地说：“这样有道义的八路军，我们打心眼里拥护。”有的群众感动得自觉地给攻城部队送水和护理伤员。
由于蒋军飞机的轰炸，城内群众涌向已被八纵攻占的南门。当时为了肃清敌人，城门未打开。为了保护、疏散被围在南门里的群众，陈、唐首长当即决定打开城门，让群众出城隐蔽，不少老人离开城门时老泪纵横，对战士们说：你们是救命恩人，是菩萨兵啊！
在攻城战斗中，指战员严格执行城市政策和纪律，从不拿群众一针一线。6月18日，经过一天激战而又滴水未进的三纵二十团在南关农林试验场休息，就在他们面前的树上挂着累累的桃杏，指战员没有一个碰碰树上的果子。八纵六十四团九连机枪班长景长安在联合中学激战时拣到一条装有24万法币的裤子。战斗结束后，他完好无缺地还给了失主。战士林和清在一个无人的金店发现一堆金子，他马上收拾好，交给附近的群众，请他们开了收条，并再三嘱咐他们替主人保存好。
在激烈的战斗中，三、八纵队十分重视保护公共设施和名胜古迹及珍贵文物。攻夺龙亭时，为保护这一珍贵文物，指战员不顾敌人机枪、炮火的封锁，把火炮架到龙亭脚下的河边，采取近距离直接瞄准射击，摧毁构筑在龙亭周围大部分工事，对文物尽量予以保护，使龙亭完好无损。
为维护社会秩序，在城内战斗尚在进行中，三、八纵队即派出纠察队，对巳攻占的机关、学校、工厂、商店、银行、宗教设施、名胜古迹等，张贴保护告示，并派哨兵看守。对主人外出的商店和私人住宅，都贴上“主人不在，禁止入内”的封条，予以妥善保护。攻克开封的当日，前线司令部便发出布告，宣布暂行军事管制，制定了六项维护秩序的措施，使社会秩序很快得以安定。
战斗刚结束，各部队即设立包扎所，专门为开封市民治病、包扎、换药、手术。住在玉皇庙街15号的战士邱培国，见房内有一毛驴，主人不在，他主动弄草提水喂驴。当房东老大娘回来见到驴喂得肚儿滚圆，拍着手说：“光听说你们是爱民军，今日见了，果然名不虚传。”
为宣传共产党的政策，各部队派出人员到街头和公共场所设立问事处和展览室，解答群众提出的问题，他们印发的10万份宣传品两天即被抢要—空。一些青年学生看过解放区书报展览和解放军胜利图片展览，热情地和解放军宜传人员谈论国家的命运和个人的前途，希望到解放区工作。有的女学生当场脱下旗袍表示要求参加解放军。
6月26日，华东野战军司令部根据形势的需要，决定第三、八纵队主动撤出开封，为在运动中寻机分割包围歼灭敌人创造条件。当部队撤离时，各主要街道张灯结彩，商店门口，住宅门前，都自发地摆上茶水，数万名群众涌向街头，挥泪送别。许多群众含着泪对战士们说：“老百姓的心向着你们哪，俺盼望着解放军早一天打回来。”在此前后，河南省教育、新闻、文化各界名流和进步青年学生嵇文甫、王毅斋、苏金伞、郭海长等1000余人前往解放区工作。
共产党的城市政策在国民党军队和政府中也引起强烈的震动。战斗结束后，前线司令部坚决执行中央军委对国民党政府文职官员只“依法逮捕刘茂恩一人，其余一概宽大”的政策，立即释放了国民党河南省政府秘书长马凌甫，教育厅长王公度等人，并请出一部分上层名流共同维护社会治安。这一政策的实施很快打破了部分上层人士对解放军的恐惧和疑虑。开封的攻克和城市政策的影响，好似在南京国民党政府内投下了一颗炸弹，不仅引起一片惊慌混乱，而且动摇了敌据守大城市的信心。尤其是所谓河南省的监委、立委们，在******、顾祝同处吵吵嚷嚷，闹得不可开交。
开封战役的胜利，进一步改变了中原地区的局势，动摇了国民党军据守大城市的信心。
同时，党的城市政策的贯彻，打破了国民党部分上层人士对解放军的恐惧、疑虑心理，在争取到他们的同情、加深其内部矛盾方面起到了重大作用。
华野三纵、八纵攻占开封以后，国民党统治集团内部十分惊慌，一片混乱。6月24日，立法院匆忙举行秘密会议，检讨中原战局。与会者惊怨交集，情绪低沉。******为挽回败局，除令进至徐州之整编第二十五师改援兖州外，令邱兵团（调出整编第七十五师，调进整编第八十三师）及第四绥靖区刘汝明部继续沿陇海铁路向开封攻击前进。同时以整编第七十五师、第七十二师和新编第二十一旅（该旅归第七十五师指挥）组成一个兵团，由区寿年任司令，从民权地区经睢县、杞县迂回开封，企图在开封地区与解放军决战。
华东野战军实施开封战役的目的，除攻占城市全歼守敌外，更重要的是引诱敌人来援，以便在运动中各个歼灭敌人。敌军分两路扑向开封，正好中了“动敌”之计。于是华野决定主动放弃开封，不怕疲劳，不怕牺牲，抓住有利战机连续作战，再歼援敌。
根据当时形势，在两路援敌中，围歼较弱的一路即区寿年兵团较有把握。但这时两路援敌相距较近，必须先引诱其拉开距离，将两路援敌隔开，以创造攻歼区寿年兵团的战机。为实现这一决心，华野决定以4个纵队，即第一、第四、第六纵队和中野第十一纵队，组成突击集团，由叶飞指挥，隐蔽集结于睢县、杞县、太康之间和民权地区，实施南北夹击，围歼区兵团。其余部队由野司直接指挥，以5个纵队担任阻援，即第三和第八纵队先由开封向通许方向行动，待邱兵团进入开封，与区兵团拉开距离后，立即掉头向东，会同由上蔡地区北上的第十纵队和位于杞县的两广纵队，组成阻援集团，在杞县以西构筑阻援阵地，隔离邱、区两兵团，阻止邱兵团东援。中野第九纵队进至郑州东南地区，阻击郑州东援之敌，并从侧后牵制邱兵团。另以冀鲁豫军区和豫皖苏军区一部兵力破袭陇海路徐州至民权段，直接配合野战军作战。
上述战役决心和部署，于24日、25日两次上报中央军委，并报中原军区和中原野战军，同时下达给各纵队预作准备。中央军委于25日10时和26日3时两次复示，指出：“部署甚好。”“在睢县、杞县、通许之线（或此线以南），歼敌一路是很适当的。如能歼灭七十五、七十二两个师当然更好，否则能歼灭第七十五师也是很好的。”据此，华野于26日中午再次给部队下达命令，进一步明确各纵的任务，并规定待机的位置和进入的时间。为配合这次作战，中野继续全力牵制平汉铁路南段的敌胡琏兵团和张轸集团；华野第二兵团继续包围兖州，吸引敌整编第二十五师北上，第四兵团以主力向淮海地区展开攻势。
6月26日晨，华野第三和第八纵队按预定计划，由开封城郊向通许方向转移，诱邱兵团西进开封；第一、第四和第六纵队向杞县以南傅集东西地区隐蔽集结。这时，南京政府国防部又低估了解放军连续作战的能力，误认为华东野战军经过开封战役已被打得“似无积极企图”，“必向津浦路前进”，遂令邱、区两兵团全力追堵华东野战军。骄狂的邱清泉，除以先头部队一个旅配合刘汝明部占领开封外，主力直扑通许，妄图尾击华东野战军第三和第八纵队。多疑的区寿年却认为华东野战军“有向平汉路进攻模样”，但也摸不清华东野战军行动的真实目的，因而在进抵睢、杞地区后举棋不定。结果，两路援敌在华野三、八纵队挥师南下的引诱和迷惑下，一路向西向南疾进，一路踌躇不前，从而很快拉开了距离，形成了40公里的间隙。
华野抓住这有利战机，于27日下达了围歼区兵团的命令。当晚，突击集团各纵队即按预定的作战方案，乘敌犹豫徘徊、立足未稳之际，从四面八方向敌发起猛烈进攻，边打边查明敌情。在对敌进行大包围的同时，迅猛楔入敌人纵深，割裂敌人部署。至28日晨，已将区兵团部和整编第七十五师、新二十一旅包围于龙王店及其附近地区，并完成了对第七十五师各旅团的分割。同时，将敌整编第七十二师包围于铁佛寺周围地区。阻援集团控制了被包围之敌以西20公里之杞县至王姻集一线，隔绝了邱、区两兵团。29日晚，突击集团一部兵力继续包围整编第七十二师，以主力对区兵团部和整编第七十五师、新二十一旅发起攻击。经两昼夜激战，至7月1日中午，将敌整编第七十五师的第六旅及新二十一旅全部歼灭。
邱清泉兵团一个旅人汴扑空后，便立即掉头东犯。邱兵团企图将华野部队消灭于睢杞地区，其先头部队于27日进至杞县西部之青龙石口、扶村、金村、务岗等地。在开封战役中担任攻城部队的三、八纵队，按照华野司令部的部署，在睢杞战役中负责阻击邱清泉兵团，已先敌在杞县城西南苏木、褚皮岗和高阳、张庄组成南北两道防线。华野四纵十二师驻凤凰台、赵虎岗一线，以积极协助两广纵队扼守杞县县城。同时，调教导团到杞县东关加强防务，全力阻击邱兵团东进，确保突击部队歼灭区寿年兵团。
邱兵团辖2个整编师4个旅，装备精良，兵骄将悍，是国民党的王牌军。它妄图凭其实力突破解放军的防线，以解区兵团之围。6月28日，邱兵团二○○旅首攻八纵阵地，而后在炮火掩护下全力东进。邱兵团九十六旅进至褚皮岗以西与华野四纵十二师接触，邱兵团四十四旅占彭庄后分数路猛攻杞县城周围阵地，激战一日，城东教导团阵地为敌突破，两广纵队也因寡不敌众撤出杞县县城，南移杞县城15公里处邓圈。国民党军队四十四旅占杞县县城。邱兵团二00旅亦尾追而至。据此，解放军随即调整部署，以相机待命的华野第十纵队附四纵十二师东移，组成土楼至东官庄第三道防线，在杞县城东南正面阻击敌人，第三、八纵队仍坚守高阳——苏木防线，威胁敌人侧翼。
29日晨，数路国民党军队乘华东野战军调整部署之际，向各纵阵地同时发起攻击。第三纵队苏木到褚皮岗一线，敌占领寺头岗后向粟岗进犯，被二十团杀伤百余后北退；国民党军队七十师九十六旅集中炮轰马寨、孙寨八纵阵地，继之以坦克、装甲车迂回攻击侧翼阵地，激战两小时，国民党军被击溃，八纵获装甲车1辆、重机枪2挺，一三九旅一度占领饮马池。
午后经4小时激战，又占领于洼、张洼等村，下午3时，敌又分路向三、八纵队结合部进攻；
八纵积极防御，一部占领蔡固。5时，国民党军队又在猛烈炮火掩护下，向高阳东之老庄进犯，被华野特务团击溃。国民党四十五旅、二○○旅午后到达五里河一带与华野十纵警戒部队发生战斗。17时，国民党军队用炮火向程寨村急袭后，发起攻击，同时，向土楼、聂庄阵地进攻，均被解放军击退。