1938年3月20日,日军矶谷师团借攻克滕县之威,在飞机的掩护下,集中4万人,配以坦克、大炮,向台儿庄发动了猛烈的进攻,企图一举攻占徐州。李宗仁以第2集团军总司令孙连仲率部固守台儿庄,第20军团军团长汤恩伯参谋长封裔忠率部让开津浦铁路正面,转入兰陵及其西北云谷山区,诱敌深入,待机破敌。
国民政府军事委员会关于台儿庄战役的意图和部署是,以擅长固守的原西北军孙连仲部防守台儿庄运河一线,一方面防堵日军进窥徐州,一方面将骄狂冒进的矶谷师团吸引到峄县南部地区,而后以隐藏于峄县东北山区的汤恩伯第20军团拊敌侧背,加以聚歼。日军的作战意图是:“确保韩庄、台儿庄一线,并警备临城、峄县,同时用尽可能多的兵力向沂州方面突击,协助第5师团战斗。1938年3月23日,日军由枣庄南下,在台儿庄北侧的康庄、泥沟地区与守军警戒部队接战。为诱敌深入,第31师刘兰斋连长率骑兵连从台儿庄出发,向峄县方向搜索前进,91旅旅长乜子彬率183团跟进,在峄县城南20里康庄与日军遭遇。台儿庄地区战斗正式打响,中国军队马队为诱敌深入边打边撤,1938年3月24日,日军逼近台儿庄开始向台儿庄地区大举进攻。
日军在台儿庄北五里刘家湖村设有炮兵阵地,排列10门大炮,向台儿庄猛轰。91旅183团3营营长高鸿立率领士兵,每人一把大刀,8颗手榴弹,杀入敌人炮兵阵地,砍得敌人无法招架,弃炮而逃。当时台儿庄战场上流传着:“活张飞大闹刘家湖的佳话”。1938年3月24日,日军2000多人在飞机、大炮和坦克的配合下,开始向台儿庄大举进攻。坚守台儿庄北门的186团1营在王震团长和姜常泰营长的指挥下顽强抵抗,并在城北门外与日军展开白刃战。打退日军的多次进攻。1营是新兵,几乎全牺牲在台儿庄北门。王震团长也亲自架起机枪向城外日军扫射,当晚,日军200人突破小北门,躲进小北门附近的泰山庙,王震团长亲率将士围攻泰山庙之敌,终将其消灭。24日起,日军反复向台儿庄猛攻,多次攻入庄内。守军第2集团军顽强抗击,与日军展开激烈的争夺战。日军猛攻3天3夜,才冲进城内。
3月24日,当台儿庄激战开始时,蒋介石即赴徐州视察督导,返回时留下副参谋总长白崇禧、军政部次长林蔚,军令部第一厅厅长刘斐、高级参谋王鸿诏组成参谋团在徐州协助李宗仁指挥作战。3月27日,当日军增兵鲁南,战事趋向激烈的时刻,蒋介石亲赴前线车辐山车站,并去台儿庄南站观战。李宗仁劝阻说,委员长之安全系全国长期抗战之成败,万万不可在此久留。蒋介石说 :王铭章师长与全师在滕县壮烈殉城前,我痛惜未曾与之谋面,今池师长又将及生死关头,我既来此,不可却步。蒋终于在李宗仁、白崇禧等人的陪同下去台儿庄南车站会见了池峰城,这使池惊喜有加。蒋拉着池的手说:你的长官说你是忠勇、精干兼备之人,今天看来此言不虚。池说 :我师绝对战斗到底,与阵地共存亡,以报国家,以报委座知遇之恩。蒋对池嘉许、勉励一番,挥手告别。