黄维发觉上当以后，急令各军回撤，但已乱成了一团。我军乘机发动反攻，一时间黄维的另外三个师损失惨重。在敌人大举突围的关键时刻，廖运周率部举行战场起义，打乱了敌人的部署，瓦解了敌人的士气，使敌人陷入更加被动的境地。
至此，黄维的突围计划，被我彻底粉碎，不得不转入防御。
这时，敌人的后方供应已被切断，不仅粮弹缺少，烧柴也成了问题。黄维心里清楚，继续死守，等于守死，倒不如孤注一掷，或许能侥幸冲开一条逃路。于是，在29日、30日两天内，又向我4、6旅阵地反复攻击，大部被我击退，仅一小部攻占我前后周庄。
当中原野战军第6纵队司令员王近山把包围黄维的情况报告给总前委后，刘伯承用手指着地图上的双堆集，兴奋地说：“黄维这12万兵马，被围困在20里长、15里宽的地段上，这极好算账，平均每500米长宽地段上，就有400多个敌人官兵，随便打一炮，都会伤着敌人！”他用浓重的四川话幽默地说：“真是15个驼子困觉——七拱八翘地挤在一起喽！”
“黄维兵团，是白崇禧指挥下的精锐师团，号称攻如猛虎，守如泰山；静如处子，动如脱兔……”邓小平接着说：“我倒要看看他守着这两个谷堆，怎么样攻如猛虎，动如脱兔？”
“消灭黄维兵团，这是淮海战场上承前启后关键的一仗！”陈毅站起身来，和邓小平一起俯视十万分之一的作战地图，精心运筹，准备歼灭被围之敌黄维兵团。
要想歼灭黄维兵团这一全副美械装备的国民党军主力兵团，谈何容易！当时，中原野战军有六个纵队参战，人数虽有12万，但编制不全，兵力不足，重武器和弹药也少。作为淮海战役总前委书记邓小平十分清楚打黄维的艰难处境。他在一次纵队领导干部会议上比喻说：“消灭黄维兵团，对中原野战军来说，犹如‘瘦狗拉硬屎’。”但为了打好这场硬仗，为了圆满完成中央军委赋予的任务，邓小平一再指示各纵队要发扬千里挺进大别山的顽强精神，服从全局，不畏艰难，不惜一切代价，坚决彻底地歼灭黄维兵团。
黄维兵团被围，使蒋介石大为震惊，他怎么也没料到自己的嫡系部队12万兵马这么快、这么容易就陷入了解放军的包围之中。
随着局势的不断变化，蒋介石这才发现单凭黄维本身的力量不可能脱出重围，于是下令让黄维想办法扩大防守地区，固守待援。
黄维被围于双堆集。经过几天的作战，12兵团被压在了狭小的地段内抬不起头来，南逃北去的道路均被封死，援军实际上成了被围待援之军，蒋介石所指望的黄维、李延年、刘汝明三路会师，“北上解围”的企图成为了泡影。
四、风声鹤唳
南京，蒋介石官邸会议室。
蒋介石把陆、海、空三军首脑人物及高级幕僚又全都召集起来，向大家介绍作战计划。
蒋介石站在地图前，脸上露出了难得的笑容，正得意于他的决策：南北对进，夺取宿县，打通徐蚌交通。他对大家说：“这就是我们变内线作战为外线作战，变被动为主动。”
席间，顾祝同接到黄维的电报，大惊失色。顾祝同用颤抖的双手正要把电报交给蒋介石。
作战厅厅长郭汝瑰走上来，从顾祝同手里接过电报代他向蒋介石报告。郭汝瑰接过电报先看了下，才小心、轻声地为蒋介石读起电文：“黄维兵团忽于24日16时，向固镇方向转进，被共军包围于双堆集地区……”
蒋介石一听就大发脾气：“胡说，娘希匹，不可能……”刚才得意的神情一扫而光。
接下来是一阵难堪的沉默。
等蒋介石怒气稍息，郭汝瑰才谨慎地说：“委座宽心，他的18军主力，将85军各部布防在双堆集外围，在18军的前方形成了一个防护圈。85军23师就被安排在双堆集东南的一个角落里，师部则挤在一间茅草屋里。该师实际上充当了承受我军第一波打击的目标，多次受到重击，损失惨重。23师原是湖南部队，其背后是18军阵地，戒备森严，进出要得到18军的许可，极为不便。
23师官兵认为这是18军对他们的监视，早已心怀不满，再加上空投的粮弹有限，黄维给予23师的数量很少，更激起了官兵的愤懑。23师曾几次因弹药打光了，师长黄子华亲自出面向18军请求支援，但18军在弹药十分富裕的情况下竟一粒不给。12月5日以后，23师处于弹尽粮绝、饥寒交迫的窘境。这时，我军又向23师的阵地发起了进攻。对于23师所处的危境，18军不仅不予支援，反而倍加防范，使23师上下一片愤慨。
就在此时，师长黄子华收到了廖运周的来信。廖在信中这样写道：“起义是光荣的，解放军不咎既往。”廖的来信深深打动了黄子华，他整整一夜没睡，第二天一早就让人把副师长周卓铭请了过来，把信递给他看。周卓铭看完信，看看黄子华的脸色，轻声说：“师座，我们不能坐以待毙。110师起义，为什么我们不能？”这时，黄子华还没有最后下决心，同时怕隔墙有耳，严肃地说：“不要多言，小心被人听见。”其实，此时黄子华摸到了周卓铭的底细，感到放心多了。为了进一步了解我军的政策，黄私下派他的副官杨耀华秘密越过火线，找到廖运周表达了黄子华的某种担心。于是，我军立即派出一名代表，并带上我军首长的一封信，随杨耀华来到23师师部，对黄子华进一步做争取工作。杨耀华告诉黄子华说：“解放军确实很好，热情诚恳，并已派人同来。”黄子华深感我军的诚意，答应起义投诚。同时，提出了“安置伤兵、暂不公布消息、按各人志愿去留和行动前全师武器装备均由黄子华个人负责”的四点要求，我军一一答应了黄子华的条件。12月8日晚，黄子华率23师全体约1万余人撤离战场，我军顺利接替该部进入阵地。
23师的阵地既是敌18军防卫的前沿，也是第85军防守阵地的中心。黄子华的起义投诚，不仅使18军阵地失去了一块挡箭牌，全部阵地暴露无遗，也使我军钻到85军腹地，并对85军的阵地发起了突然袭击。吴绍周的85军被打得措手不及，很快土崩瓦解。兵团司令黄维和兵团副司令胡琏当听到此消息后一时间竟眼睛发直，手脚冰凉。
五、魔高一丈
黄维兵团以杨伯涛的第18军为主力“王牌”，所以自11月下旬被围开始到12月5日期间，担任对其他各军的策应任务，配合战车和炮兵，屡次向我军反扑。蒋介石也派其儿子蒋纬国飞到双堆集上空，用无线电台和18军战车营营长通话，谎说各路大军即将到达，要他们奋斗到底，为“党国”立功。敌空军的飞机也成天在双堆集上空盘旋。但黄维兵团的反扑行动只能在白天进行，一到了晚上，又完全是我军的天下。
黄维看到阵地前面的村庄被我军利用作为攻击据点，曾抽调了几个团，由杨伯涛指挥，在飞机、战车和炮兵的掩护下，进行了猛烈的反扑。在付出了很大的伤亡后，才把几个村庄夺回，并施以残酷的破坏。南京国民党政府国防部借此宣传，说黄维兵团在双堆集周边实施了“蹂躏战术”，使“共军”受到毁灭性打击云云。
“道高一尺，魔高一丈。”这时，我围歼部队普遍采用了近迫土工作业，对敌形成了极大的威胁。
11月底，9纵27旅旅长崔建功挥师稳步进击，在11纵和豫皖独立旅配合下攻打小张庄。小张庄位于黄维12兵团防御圈东北角，是个仅有8户人家的小村子。敌人在这里构筑了三层工事，外层是鹿砦、铁丝网和前伸地堡，纵深150米；中层环村150米，地堡密集，堑壕交错，各地堡之间均有交通壕贯通，构成环形防御工事，形成交叉火力网；里层是房屋和大地堡构成的集团工事。
核心地堡配备两三挺重机枪，周围有两三个小地堡，各配备一两挺轻机枪。集团工事间每隔30米有小地堡和射击掩体。崔建功指挥81团曾一度突破小张庄外围阵地，但因敌人火力太密集，难以发展进攻。该团1机连班长牛孟连和两个战士冲到鹿砦跟前，遭到敌火力网压制，攻不上去，也撤不下来，只得依托几个土包就地隐蔽。也是急中生智，为了生存和战斗，他们被迫进行土工作业，先挖成卧射掩体，再挖成立射掩体，尔后互相招手示意把工事挖通联成堑壕，居然在敌人的火力下坚持了一天。
这个看似偶然的小事启发了指挥员的战术思想。27旅参谋长张蕴钰注意到了这件事，崔建功也敏锐地捕捉到了这个信息。他们把这件事的经过报告了秦基伟，秦基伟大喜。他想，如果进攻部队都能像这几个战士一样，挖沟近迫，抵近敌人，这岂不是扬长避短、提高生存能力、使敌火力优势无用武之地的重要手段吗？他马上抄起电话给崔建功和张蕴钰打电话：“设想条件再艰苦一些，敌人的火力再猛烈一些，我们的战士再抵近一些，时间再长一些，把试验继续下去。”
11月29日，纵队定下进攻小张庄的决心。秦基伟到79团、81团研究作战方案。检查攻击部署时，具体交代了三个问题：交通沟要最大限度地抵近敌人，使突击队能迅速跃入敌人外壕；发挥火炮和炸药的威力，集中全旅炮火突袭；军事攻坚与政治攻心双管齐下，运用瓦解整3师的经验。
当夜，一场空前规模的近迫作业悄悄展开。各连连长用破一小口的米袋装上石灰向敌阵地匍匐前进，战士们顺着若隐若现的白线跟进，直到距离敌阵地数十米，连长才发出暗号，大家立即开始挥锹作业，天亮之前便初具规模。至12月1日战斗发起，27旅挖成3条交通壕，每条长250米，距敌前沿70至100米，宽能走担架，深可没头顶。有了交通壕，战士们的腰杆就挺直了。秦基伟、李成芳、何正文、谷景生，还有各旅的首长，都大摇大摆地走进交通壕，一直走到黄维的鼻子底下。纵队首长到了最前沿，连敌人的机枪火力点位置都看到了，情况掌握得当然就更准确了，大大减少了指挥失误。
12月1日黄昏，部队进行炮火准备。一声令下，群炮齐鸣，尤其是9纵的“土特产”——炸药抛射装置大显神威，大药量的炸药包飞到之处，敌军血肉横飞，哭爹喊娘。
经过30分钟炮火准备，敌前沿工事及附近防御物大部被摧毁。9纵27旅79团、81团此时才从堑壕中跃出，神兵天降一般，守敌还没清醒过来，就已经是短兵相接、白刃格斗了。部队打得很顽强，79团突击队14名队员，冲锋中伤亡12人，最后只剩下1名班长、1名战士，但他们还是毫不犹豫地跳入敌外壕，完成了突破任务。81团2连突破后全连仅存12人，后又收容了其他连的2名战士，当即在敌炮火下组成3个战斗小组，由连长指挥迅速向敌纵深发展，一口气打下5个地堡，终于同友邻部队会合。经12小时激战，全歼守敌1200余人，缴获迫击炮5门、战防炮1门、轻重机枪30余挺。
秦基伟的心情好极了，轻松地哼起了河南豫剧。
这时，蒋介石把胡琏召到南京。胡琏在蒋面前吹嘘说，此次徐蚌之战，对方倾其全力，规模空前，是国共两党最后的大决战。这一仗打胜了，可以凭江淮之阻拱卫长江，确保南京，与共产党平分天下，再图反攻。他建议蒋介石放弃北方，固守南方，集中全力打胜这一仗，并硬着头皮说：“校长，12兵团尚能坚守一段时日，等待援兵的到达。”言下之意，还是催促蒋介石赶快抽调援军。为了表示对校长“栽培”之恩的报答，他表示，愿意再飞回双堆集重围，协助黄维鼓舞士气，调整态势。蒋介石连说“好，好”，对其嘉许一番。
12月2日，从南京飞回的胡琏像一个打足了气的皮球，立即分批召集各军师长到兵团部见面打气，说蒋介石已决定调集大军增援作战，要大家固守待援。接着，又到各军师阵地视察一番，并在布防上做了一些局部性的兵力调整。胡琏的这一番行动，总算给绝望中的黄维兵团将士注射了一剂强心针。
但在我中原、华东两野战军“紧缩包围、纵横扫荡、重点强袭”的攻势下，双堆集的处境每况愈下，有时竟是雪上加霜。
黄维被围十多天来，12兵团上下无不怨声载道，士气十分低落。此时正值深秋，双堆集袒露在一片毫无隐蔽的旷野上，12兵团栖身在一些土墙茅草盖的小房子里面，原来在这里居住的老百姓早已逃往他乡。别说粮草接济不上，就连饮水、燃料和骡马的饲料都很难解决。加上在我军的连续攻击之下，敌军死伤逐日剧增，已经处于饥寒交迫之中，大有朝不保夕之虑。
在最外围的85军全线崩溃以后，12兵团的14军又成了我军攻击的主要目标，为了保住核心阵地的第18军，黄维不得不忍痛割爱，让14军做出更大的牺牲。
12月6日这天，我军几十门重炮和抛射筒齐发，大量的炮弹和炸药包倾泻到了敌人阵地上，炮声震撼着大地，硝烟浓雾腾空而起，敌军阵地上的工事大部分被摧毁。至黄昏时分，炮火打过后，冲锋开始了。与此同时，敌人的轻重机枪火舌齐吐，形成密集火力，封锁着出击口。