徐州——江苏北部重镇，是东西、南北两大铁路干线的交汇点，历来是兵家必争之地。一心想吞并我国神圣领土的日本侵略者自然深知这一点。于是，1937年12月起，日军以华北方面军和华中派遣军联合向徐州发起南北夹击，企图打通津浦铁路，歼灭这一地区的中国军队主力。他们集中了号称“大日本皇军精华”的矶（jī）谷师团和板垣师团，沿铁路线南下，直奔徐州而来。
中国军队已经做好了应战的准备。指挥作战的是第五战区司令长官李宗仁。李宗仁带兵骁（xiāo）勇善战，在将士中有一定的威信。他知道敌军攻打徐州，必然要经过台儿庄。台儿庄在徐州东北三十公里的大运河北岸、临城至赵墩的铁路支线上，战略地位十分重要。于是，李宗仁命令孙连仲的第二集团军在台儿庄迎战敌人，同时命令汤恩伯军团从侧面攻击日军，然后由两路大军共同把日军压到台儿庄附近位于山东省南端的微山湖予以歼灭。
1938年3月22日，孙连仲率军渡过大运河，进驻台儿庄及其附近地区，池峰城师长率领的三十一师加炮兵一个营率先进入台儿庄布防。23日，从峰县来的一千多鬼子，在十门重炮和八辆坦克的掩护下，向台儿庄进攻。
台儿庄一带的阵地上，配备有威力巨大的防御炮，可是眼看日军的坦克慢慢进入了射程，我军大炮却没有丝毫动静。性急的池师长连声责问炮兵营长为什么还不开炮。那位炮兵营长却冷静地答道：“报告师长，打敌人的坦克车，不能打带头的几辆，而要打中间的。中间的打坏了，前头的退不下，后面的不能前进，这样才能打退敌人的进攻。”师长听后，暗暗点头。
当日军坦克进到离大炮阵地仅四五百米时，营长连续下令对着当中的坦克开炮。炮声隆隆，硝烟滚滚，一下子击中了中间的四辆坦克，中弹的坦克顿时趴在那儿动不了窝了，而领头的坦克也不知如何是好，在原地转来转去。后面的坦克见大势不妙，掉头就跑。靠坦克掩护的步兵也只得纷纷后退。
我军乘胜攻击，一下子歼灭六百多敌人，剩下的鬼子逃窜到北洛，据险固守。其实这时日本鬼子并不知道我军的战略部署，因此并没有集中兵力来攻台儿庄。按原计划，汤恩伯军团这时应该抓住时机从侧面攻击日军主力，但是他们与日军打了三四天，非但没有完成原定计划，反而暴露了我军的意图。于是，日军大举向台儿庄发动进攻。24日，矶谷师团开始猛轰台儿庄。台儿庄的城墙用砖石砌成，非常坚固，但是在日军炮火的猛烈轰击下，多处都已倒塌了。
日寇炮轰之后，以坦克为先导掩护步兵向前猛冲。第二集团军虽是杂牌军，装备落后，但将士们个个抱着拼死的想法，英勇地抵抗日军的进攻。
这一天，我军将士与敌人斗在一处，杀得天昏地暗，常常为争夺一村一地，与日军反复肉搏一二十次，双方伤亡很大。25日晨，我军有援军及时赶到，将丢失的台儿庄北五六个村子相继收复。日军伤亡惨重，一时无法集中全力攻城。但是，日军倚仗其大炮、飞机的威力，向我城周围阵地猛烈轰击。一天内，落在我阵地上的炮弹达六千多发。英勇的我军战士毫不畏惧，以血肉之躯与敌方炮火、坦克相抗衡。
部队久攻不下，日军矶谷师团长不禁恼羞成怒，于3月29日亲临台儿庄西范口附近督战。30日，战斗进入了白热化状态。日军疯狂发动攻击，当晚占据了城内东半部。但是，城内守军并没有被敌人的嚣张气焰所吓倒，而是在大街小巷与敌人白刃拼搏，至死不退。他们组织了一支又一支突击队，机动有效地打击敌人。城外守军同时发起反击，截击了日军炮兵部队，在城周围与敌人激烈厮杀，以减轻城内守军压力。
李宗仁非常清楚台儿庄的战况，他心急如焚（fén），急忙命令汤恩伯军团迅速南下，以形成南北夹击之势，缓解台儿庄的紧张局面。汤恩伯却逡（qūn）巡不前，消极避战。李宗仁对此非常气愤，严厉警告道：“如再不听军令，致误戎机，当照韩复榘的前例照办。”然而台儿庄的战况越来越激烈，形势越来越严峻。
到4月1日，台儿庄守军第三十一师的四个团已经伤亡过半，第三十师调入城内的两个团伤亡也很严重。台儿庄城西北门、北门、东门、东南门均已陷入敌手，全城一半的地方被敌军占领。然而，守军并未败退，而是据守南关一隅，拼死坚守。城内各守备队利用断垣残壁，筑起一道道阵地工事，挨街逐巷与敌人周旋搏斗。他们还组织起一支二百多人的奋勇队，偷袭敌人据点，不断打击敌人。
我军虽然英勇奋战，但伤亡实在太大，实力也越来越弱。4月4日深夜，孙连仲向李宗仁报告说：“第二集团军已经伤亡惨重，敌人火力太强，攻势过猛，但是我们把敌人也消耗得差不多了，可否请长官答应暂时撤退到运河南岸，好让第二集团军留点种子，也是长官的大恩大德！”李宗仁没有作声。他深知前线的艰苦，但是他又考虑到汤恩伯的军团第二天中午就可到达台儿庄北部，此时撤出战斗，岂不前功尽弃？想到这里，他狠了狠心，斩钉截铁地说：“敌我在台儿庄已血战一周，胜负之数决定于最后5分钟。援军明日中午可到，我本人也将于明晨来台儿庄督战。你务必守到明天拂晓。这是我的命令，如违背命令，当军法从事！”在电话中，他还要求孙连仲组织夜袭，以打破敌军明晨拂晓攻击的计划。孙连仲知道军命不可违，便立即部署战斗。他对池峰城师长命令说：“士兵打完了你就自己上前填进去。你填过了，我就过来填进去。有谁敢退过运河者杀无赦！”
池师长奉命，号召部下发扬连续作战精神，拼死抵抗顽敌的进攻。
午夜，孙连仲组织起先锋敢死队数百人，分组向敌人发起突袭。本来，孙连仲的预备队已全部用完，部队伤亡过大，但是经过战前动员，轻伤员们自动组织起来，成为一支锐不可当的敢死队。队员们乘着夜色，冲入敌阵，奋勇异常。日军仓促应战，乱作一团。血战数日为敌所占领的台儿庄市街，竟被我军一举夺回四分之三，敌人丢盔弃甲，死伤无数。
4月5日拂晓，汤恩伯军团终于到达台儿庄以北，对敌矶谷师团形成反包围。4月6日，我军全线出击，杀声震天。敌军血战十多天，筋疲力尽，弹尽粮绝，机动车辆多数被击毁，其余也因缺乏汽油而动弹不得。他们狼狈突围逃窜，溃（kuì）不成军。我军乘胜追击，敌除濑（lài）谷支队数千人逃掉之外，其余全部被歼灭。
台儿庄战役持续将近一个月，日军恃其兵器优越，炮火猛烈，不断发动进攻。中国守军在李宗仁的正确指挥下，浴血奋战，仅依靠步枪、手榴弹、机关枪和少量重武器，以伤亡近两万人的代价，击溃了日军精锐部队的疯狂进攻，歼敌一万多人，缴获了大量的战利品，获得了最终的胜利。