第第93旅乜子彬部的先头部队开始从台儿庄一线向峄县方向搜索前进。当93旅骑兵连搜索至峄县以南8公里处的乱沟附近时，与南下日军先头骑兵部队约3oo余人、坦克1辆遭遇，从而打响了台儿庄一线战斗的第一枪。
当面之敌是由日军步兵第第1营组成的，配属有坦克、装甲车、野炮及骑兵队，共1ooo余人。就当时中日军队的实力对比看，日军的这支混合部队，除了人数以外，其无论是在部队的机动性方面，还是在火力配备上，都过了中**队一个普通师的水平。
第93旅骑兵连百余官兵都是久经沙场的老兵，他们在队长王保坤和连长寇保贞率领下，占据有利地形，打退了敌人一次又一次的进攻。日军见久攻不下，于是调集大炮，对中**队阵地轰击，守军全队官兵抱定与阵地共存亡的决心，争取尽量滞阻敌人，使后续部队有充分的时间作好迎敌准备。手榴弹使用殆尽，仍然顽强坚守阵地，不肯退却。最后，在敌人的轮番攻击下，阵地终于失陷，全队官兵伤亡过半，被迫后撤。
31师北上搜索分队与敌南下进攻之旅在路途中遭遇，在敌强我弱的情势下，中**队以顽强的斗志，较小的代价，滞阻日军于台儿庄外，初步打破了日军急于南下，抵达运河一线的计划。
根据敌情，池峰城于当日晚对各部队的任务作了部署：骑兵仍活动于潘家庵附近地区，监视峄县敌人行动；第93旅以一部置于南洛、孙庄各据点，主力置于板桥；第186团仍任台儿庄之守备，构筑防御工事；第92旅以一部进驻台儿庄北站附近，并迅加强该地工事。
同日，第第31师与日军遭遇，日军已进至北洛的战报后，当即给第2集团军孙连仲下达命令：孙总司令即赴台儿庄指挥；驻贾汪(距台儿庄西南3o公里处)之27师星夜徒步向台儿庄附近集结。
孙连仲受命后，即率第2集团军司令部于24日晨4时抵达台儿庄运河以南5公里处的韩家寺，亲临调度指挥。并急令第27师开至台儿庄附近地区。
第27师是孙连仲的基干部队，孙连仲曾任该师师长。由于是孙的“嫡系”，因此经孙连仲争取列为国民党军队“调整师”编制，其装备、军械虽不如蒋介石嫡系部队，但较第2集团军的其他2个师稍为优良。
黄樵松是一个有着民族气节的爱**人。他十分痛恨国民党军队中的那些对日军作战时贪生怕死、保存实力的将领，称他们为“非炎黄子孙，实为中华民族的败类”。他把满腔的悲愤化为抗击日寇的行动，在娘子关战役中，他身先士卒，率部痛击日军，击毙日军步兵第7o联队联队长鲤登大佐。娘子关战斗后，黄樵松接替冯安邦任第27师师长。
当3月24日晨4时，黄樵松接到孙连仲命其部开台儿庄的命令后，晨第27师从贾汪附近地区出动，3个梯队徒步向台儿庄前进。下午6时，部队抵达台儿庄南站附近。
日军占领獐山后，十多架飞机飞临台儿庄上空，对台儿庄及附近炮阵地滥施轰炸。每架98式轰炸机上，都装载着3oo～45o公斤炸弹。顷刻之间，台儿庄被硝烟烈火笼罩。狂风暴雨般的炮弹，把台儿庄外围阵地工事基本摧毁，敌人步步逼近，向北洛猛攻。185团王郁彬团长督率高鸿立营奋勇抵抗。在优势敌军的攻击下，且战且退，于夜幕降临时退至南洛，傍晚，日军追击185团到南洛，被伏兵所阻。敌趁势占领了北洛，与中国守军相对峙。
3月24日凌晨4时，孙连仲总司令到达台儿庄，把集团军指挥部再次前移到运河南岸的韩家寺指挥作战。中午，矶谷师团濑谷支队主力逼近台儿庄，向守军猛烈开炮。同时，日军还调动了飞机对台儿庄反复轰炸。汤恩伯送来的重炮营业不顾敌人的炮兵压制，频频向敌还击。敌人开炮两个多小时后，步兵在坦克的掩护下，向台儿庄冲锋。敌坦克十分凶猛，守军无平射炮，又无坦克，无法反击，全凭血肉之躯与坦克搏斗，至死不退。守军笫31师依托城墙，凭借将士们一腔热血和血肉身躯，将日军迭次攻击均予击退。当日傍晚，日军曾突破台儿庄城墙东北角，又被守军186团利用密集的手榴弹和大刀队近身拼杀，歼灭2oo余人，才被驱逐出去。
这一天，一早就接到了台儿庄地区战事打响的消息的中国最高领袖蒋委员长，深知这场作战的重要性，亲自率领军令部长徐永昌等人到徐州视察战局，并且设法调动所有能够动用的部队，前往徐州的第5战区增援，准备给予孤军深入的日军重大的一击，不惜花大的血本，非要打败这股不可一世的骄兵，以为几个月来在前线阵亡殉国的数十万**将士出一口恶气。
24日晚12时，白崇禧在孙连仲的陪同下，亲临台儿庄前线视察。他们先来到韩家寺第2集团军司令部，听取孙连仲的汇报，然后又来到台儿庄南站第31师师部了解战况。
“白总长，孙总司令，鬼子的炮火实在是太厉害了，简直就是铺天盖地地向我们师的阵地上面打过来。不少将士在战壕里就被敌人的炮弹打伤了，失去战斗能力。我们师只有步枪机枪和迫击炮，火力和敌人相比实在不是一个档次，差得太多了。而且，敌人还出动了坦克掩护步兵进攻。坦克这个东西，我们拿它几乎没有什么办法，机枪子弹打上去根本没有任何效果。我们只有用人带着成捆的手榴弹，和鬼子坦克同归于尽。只是这样对我们的损失，实在是太大