第4纵队在运河车站以北与黄焕然兵团后卫第1oo军44师遭遇，激战一夜后，4纵未与敌纠缠，向西强渡运河，继续追击黄焕然兵团主力。当天午夜，第9纵队在沂河边的埝头集追上了黄焕然兵团担任侧翼掩护的第63军后卫两个团，在战斗中为了迅渡过沂河迂回包围敌人，9纵27师79团1营2连的十个战士跳下冰冷的河中，用肩膀托起木板架起浮桥，保障部队完成了任务。这个事迹被称为“十人桥”，后来写进了新中国的小学教科书。激战至次日拂晓，全歼63军后卫两个团。
11月9日，华野《关于全歼黄焕然兵团的政治动员令》，号召全军不怕疲劳，不怕困难，不怕饥寒，不怕伤亡，不怕打乱建制，不为小股之敌迷惑，不为河流所阻，坚决追击，奋勇作战。特别要求各级指挥员在总作战意图下，机断专行，灵活指挥，不失战机组织作战。
华野主力的多路推进，以及何、张的起义，南京震惊，徐州惶恐。蒋总统、刘经扶都判断解放军势在攻取徐州，为确保徐州，徐州剿总于11月9日紧急调整部署。李文卿兵团向徐州东北的大湖、荆山铺、茅村车站地区集结；黄焕然兵团向徐州东南的
徐山村、潘塘地区集结；邱雨庵兵团位于徐州以西的黄口地区，对付从鲁西南向徐州推进的解放军六个纵队（实际为两个纵队）；孙元良兵团主力务必于11月1o日到达宿县、符离集，另以一个军守蚌埠；刘汝明第4绥靖区在怀远、定远、凤阳布防；剿总直属之第第96军守临淮关。
黄焕然兵团由于后卫部队已与解放军接火，没渡过运河的部队非常惊慌，后卫第1oo军44师才过了一个团，桥边一辆弹药车突然起火爆炸，负责炸桥的工兵以为解放军赶到，慌忙将运河大桥炸毁。44师两个多团还未过河，就这样被扔在了河东。黄昏后解放军第8纵队先头部队赶到，立即对留在河东的国民党军余部进行攻击，由于解放军只有一个营的兵力，无力消灭两个多团的**，双方混战了一夜，解放军8纵主力赶到，于1o日天明后，全歼了滞留在河东的**共27oo余人，并占领运河大桥。尽管大桥已被破坏，但损坏并不严重，解放军立即在桥面铺上木板，恢复了通行，仅半天就通过两个师。
当晚，黄焕然兵团四个军大部渡过运河，宿营于碾庄。黄焕然召集各军军长商讨下一步行动，他本想继续前进，退往徐州。但部队在渡运河时，相当疲劳，建制混乱，特别是第25军、1o第64军不仅没有损失，还构筑好了防御阵地，所以军长刘镇湘主张先停留一下，整顿部队，以免在行军途中为解放军所乘。而其他几个军长则主张不要停留兼程前进，双方争论没有结果。而黄焕然认为已过了最危险的运河，碾庄距徐州仅九十里，还比较安全，部队也需要时间整顿，就决定停留一天。
就在同一时间里，担任兵团侧翼掩护的第63军原计划从窑湾渡河，但军长陈章骄傲轻敌，行动迟缓，到9日还未渡过运河，直到后卫被消灭才惊慌失措起来，率部急向窑湾撤退。到达窑湾已是夜晚，镇中居民逃避一空，找不到粮食充饥。半夜解放军第1纵队赶到，1纵由于司令叶飞生病由副司令兼参谋长张翼翔指挥，他向粟代司令员保证由1纵一个纵队单独负责解决63军。为尽快消灭63军，张翼翔决定以三个师从东、北、东南三个方向同时攻击，扫清外围后不作调整直接起总攻。9日入夜，1纵就开始外围战斗，63军是仓促转入防御，工事很不坚固，企图逐村抵抗，消耗迟滞解放军。而解放军为缩短作战时间，各部从敌防御薄弱地区大胆突破，直插纵深，迫其全线动摇。经一夜战斗，基本肃清外围。随即起总攻，至第63军。军长陈章在部队失去控制时跳河逃命，结果中弹身亡。1纵结束战斗后于13日渡过运河，向狼山前进，参加阻击徐州方面对黄百韬的增援。
11月1o日，蒋总统获悉黄焕然兵团在撤退途中遭解放军的追击，深感不安。他对刘经扶所采取的先巩固徐州，再以有力部队策应黄焕然兵团的消极作战方案，极为不满。他决定命令黄焕然兵团就地固守待援，集中邱雨庵、李文卿两个兵团迅东进与黄焕然兵团夹击运河附近解放军。同时催促黄培我兵团兼程急进，务必于13日前到达阜阳、太和地区，参加徐州作战。这道命令结束了黄焕然兵团内部撤守之争。黄焕然命令部队转入防御，修筑工事准备坚守。兵团部在碾庄，以此为中心，25军在北，64军在东，44军在南，1oo军在西，形成环形防御体系。此时解放军的包围还不严密，黄焕然如果坚决西撤，还是能回到徐州的，但是，将总统的错误决策把他和十万官兵葬送了。
就在这天之前，原在距碾庄以西二十里的曹八集的李文卿之第13兵团，奉徐州剿总司令刘经扶的命令，不等黄焕然兵团来到就匆忙撤往徐州，导致黄焕然所部失去了侧后的掩护。而黄焕然兵团的第1oo军4第1oo军在碾庄以西防御，但44师在掩护兵团渡运河时损失惨重，仅剩师部直属队和不足一个团的战斗部队，师长刘鹤声认为所部损失太大，无力担负防御，就直接撤往徐州。该师一路西行于1o日下午刚到