四月，51师在湖北黄陂接受了军事委员会的长官们的校阅，并获得军委会校阅官的优良考评，而张灵甫所指挥的3o5团的成绩更是在阅后评定中，名列全师第一。这之前一个月的辛苦所换来的一切都得到了回报，包括周成仁在内的所有人对此都颇是感到了一番自豪。
早在三月里，团座张灵甫便升任第153旅副旅长，兼领3o5团团长一职，正是在他这位副旅长的亲自狠抓下，3o5团的新兵训练才是如此突飞猛进。
而整个三、四月间，国民政府军在徐州附近和日军展开了一场空前规模的大会战。日军第1o师团在2月里为了便于南下作战，遂以田荣次郎少将的步兵第33旅团为基干，组成特遣支队。3月1日，濑谷启少将替代田荣次郎少将，任第33旅团旅团长，该作战支队遂编成为濑谷支队。下辖：步兵第第第第第1o联队(欠1个大队与第12中队、临时野战炮中队、临时山炮中队、野战重炮兵第2联队(欠1个大队及联队级一半)、中国驻屯炮兵联队第3大队(第第第一野战医院、兵站汽车第第1旅团长一下的指挥机关一部分人员、师团参谋-濑川幸男大尉。
濑谷启少将于3月8日到达兖州接任支队长之后，当日晚第119号命令，令其作好进攻准备，以便在适当时机击灭津浦沿线之敌。师团参谋长堤不夹贵大佐还同时下达了书面指示，要求该支队“以主力攻击时，须先进入界河附近，尔后按当时情况，期望能一举追至滕县南面地区”。
第2军令其“击灭大运河以北之敌”的命令后，立即又向濑谷支队下达了应“追击到临城”的补充指示。台儿庄作战遂全面拉开帷幕。
3月14日拂晓。濑谷支队在航、战、炮掩护下，从两下店开始向中**队的阵地进攻，很快突破了石墙、下看埠、白石山以及香城等前哨阵地，进至深井、界河、普阳山及龙山等主阵地带以北之线。15日拂晓，日军除继续由正面进攻外，还加强了两翼的攻势。并企图迂回至主力阵地侧后。由于第22集团军的作战指导是企图以阵地防御将日军阻止于滕县以北，所以在日军进攻前后逐次将主要战斗部队全部部署于滕县城北各地，滕县城关地区仅有第第364旅1个旅部，共有4个特务连的战斗部队。
当战斗进展激烈、城外各阵地伤亡急剧增加、形势极为严峻时，第第22集团军总司令孙震：“滕县为津浦路北段要点，关系全局，应竭力死守。”
当日黄昏，界河阵地被突破，龙山被日军包围。由城前返回的第366旅仅先头1个营撤回滕县。主力在城头村附近与日军迂回主力部队遭遇，被迫向临城方向退走。至15日夜，滕县城关地区的部队虽然番号很多。但实际战斗部队仅有11个步兵连、1个迫击炮连，共约2ooo余人；此外还有师、旅部地4个特务连约5oo人，滕县地方武装约5oo人。总计约第第727团团长张宣武受命为滕县城防司令，统一指挥城关各战斗部队。
日军濑谷支队进至滕县附近时将部队区分为两队。其支队主力进攻滕县，第63联队配属一部炮兵及战车，由辛庄、中顶山迂回至滕县以南，切断滕县中**队的退路，并向临城攻击前进。16日8时，濑谷支队留一部兵力继续进攻北沙河。主力迂回向滕县起进攻。上午1o时至下午16时，日军对东关连续起了5次冲击，均被守军击退。第6次冲击，经激烈肉搏，至黄昏时，日军突击部队第三波冲入东关。当夜，守军再由城内组织反冲击，将突入之敌大部歼灭。收复了东关。
当夜第第第727团个营先后由西门退入城中。此时滕县城北第45军各部均已在阵地被突破后分向微山湖及峄县等地溃退。17日6时许，日军在飞机、炮兵火力掩护下再度向东关进攻，下午又将主攻方向改在南城，先以15o毫米榴弹炮集中火力轰击城墙，再由坍塌处突上城墙。
守军残部由西门退至西关车站。不久，东关及西城门楼均为日军占领，仅余城内、北门及东北城角的守军仍在继续抗击，王铭章在城中十字路口附近指挥巷战。但在日军强大火力制压下。守军逐渐失去指挥。王铭章企图至西关车站组织该地残部继续防守。在转移途中中弹牺牲。至18日中午，日军完全占领滕县城。
同时板垣征四郎第第1o师团地作战。其坂本支队在休整及增配战车中队后。于3月9日开始在航、炮、战地掩护下集中兵力。从汤头向临沂东北地区地第4o军起进攻。守沂河以东、汤头以南地白塔、沙岭、太平、亭子头等处先后失守。第4o军被压迫至临沂城郊地区。
此时。由滕县输送到峄县转赴临沂。接庞炳勋第第59军正向临沂转进中。战区司令长官-李宗仁为了使庞炳勋军与张自忠军能更好地协同作战。特派战区参谋长-徐祖诒代表战区司令长官去临沂指导作战。
第59军从峄县急行军。于12日到达临沂城西地区。第59军各部强渡沂河。开始进攻。至第第一线作战部队地营长伤亡三分之一。连、排长已全部易人。但该部队仍坚守阵地。顽强战斗。此时日军因伤亡甚众。亦已无力动强攻。
趁此之际。张自忠将军集中全力组织反击。于当日黄昏后。利用敌人得不到飞机支援而又不惯夜战地有利条件。向河西之敌动进攻。激战竟夜。以肉搏战将渡至河西地日军击歼近半。坂本支队地步兵第第第9中队长等多名日本军官皆在此战中阵亡。沂河两岸战斗。坂本支队伤亡约3ooo余人。
日军坂本支队退至汤头之线后重新集结。经短时间整顿及补充后。于第4o军兵力单薄。又未能得到补充。在敌进攻面前节节后退。庞炳勋急电军委会：“职军苦战月余。伤亡甚众。官兵疲劳。临沂危急”。请援兵。
此时第59军已集结于费县。委座遂于23日9时电令张自忠：“不必赴泗水、滕县。以整个军协力庞炳勋击灭临沂方面死灰复燃之敌。”第59军遂于24日返回临沂古城地区。
第4o军桃园、三官庙左翼阵地被日军突破，退守九曲店一带。第第38师抽调3个团，于当日2o时西渡沂河，向已占领桃园、三官庙之敌实施夜袭，收复了桃园，但三官庙未能攻下。26日全天。沂河两岸均在激烈地反复争夺战斗之中。至黄昏时，第59军在桃园的3个团皆出击受挫，复撤河西；古城一线的部队在日军猛攻下，亦退至前后岗头线。第第第2o军团地骑兵团驰援。
27日拂晓开始，日军将主要进攻方向指向沂河以西的张自忠部。至第2军“因濑谷支队在台儿庄方面的战况吃紧，遂命令第第5师团命令坂本支队暂时中止攻击沂州，去救援濑谷支队。坂本支队队长在临沂附近留下步兵约2个大队，主力从29日夜开始缩小战线。撤兵南下
3月3o日，临沂守军当即以333旅沿沂河，骑兵团向艾山、义堂集一带展开作战。日军第5师团长-板垣征四郎中将在坂本支队西进后，于3月31日进至汤头，接着又进至临沂西北的义堂集，指挥坂本支队留下的两个大队，将追击的中**队阻止于汤头及义堂集以南，然后重新调整部署，增调部队。作再次进攻地准备。
在临沂地区一个多月的战斗中。中**队虽然死伤惨重，但日军第5师团亦伤亡不小。且未能完成攻占临沂地任务。
而在3月17日、18日，濑谷支队先后攻占了临城及滕县之后，全面陷入在台儿庄附近的作战，濑谷启少将于24日夜收到了台儿庄派遣队的请援电报后，立即计划向台儿庄展开增援，但由于枣庄、郭里集方面受到第52军的攻击，濑谷支队只能抽调约2个步兵中队的兵力，配属2门重炮南下增援，而支队主力则准备与郭里集附近之敌进行决战，同时令配属于支队的步兵第1o联队（约1个半大队的兵力）从临城向枣庄以南进攻。
增援台儿庄派遣队地两个步兵中队于黄昏前后到达台儿庄，但立即遭到中**队的第31师地反击。而陷入在台儿庄内地日军台儿庄派遣队此时则是因两日来的苦战，已是伤亡过多，仅靠增援的仅两个中队，仍难完成攻占台儿庄的任务。