蚌埠前线的暂七师和日军积极备战的时候，山东战场上战局再次发生了惊天逆转。
临沂方向，由于守军指挥失误，直接导致之前的有利局面彻底的丢失，从此第3军团及第59军均陷入苦战。
第三军团当面的日军自攻击以来陆续增加，现至4000余人，炮火昼夜不停，往复突击肉搏多次，战斗极其的惨烈。
而第三军团也发扬了西北军一贯坚韧不拔的光荣传统，宁死不退，师、旅长躬在阵地督察指挥，战斗之烈空前，毙敌无算，然自身伤亡甚重。
战到3月25日，现剩有战斗兵计115旅全旅500－600人；117旅800余人补充团亦仅700人，第39师全师只剩下三千余人，不足战前的一半。
由于前线战事实在是太紧张了，庞炳勋不得不将军属特务营、学生队等均加入阵线，现前线各军、师部，即一连之预备队亦无。
兵员伤亡是一回事儿，更为重要的是武器装备的损失，苦战大半个月，第三军团所有轻重火器被敌炮毁及自行损坏者已逾半数，但是却没有收到补充，部队的战斗力下降的很厉害。
鉴于第三军团确实已经到了弹尽粮绝的地步，因此在临沂战场担任作战指导的徐祖贻亦感情况严重，于26日下午向战区提出了增兵要求。
在发往徐州战区长官部的电报中徐祖贻提道：“庞军团兵力损失过巨，现虽勉守九曲店、小李家庄、石埠岭、黄山之线，但敌如再攻击，河东难支。张军（第59军）占朱高、古城村、南曲坊之线，昨天以数团兵力渡河占领桃园，今早攻三官庙损失极大遂停进攻。下午独盘头方面反攻桃园极烈，同时营子乾、沂庄、沙埠庄亦发现步炮联合约千名之敌，不得不以一部应付。正面过大已无进攻能力。”
“敌似又有增加，实数未详，约不下四五千，兵器及弹药似均充足。现临沂城在敌炮有效射程内，军团部虽拟后移，但恐动摇前方意志及影响于守城部队。张之军部尚在古城，亦受义堂集方面威胁。此方兵力，庞军已失战斗力，张军实力虽剩半数而士气较前甚差。非有生力援军临沂难守，祈早决定。”
因徐祖贻的请求，第5战区于当日决定调驻赣榆的57军111师王肇治之333旅前往增援，并归59军指挥。但此时的临沂战场，情况依然危急。
此时敌第5师团已三面包围了临沂城，即东面之敌正攻击城东南之黄山、城东之石埠岭、九曲店，城东北之三官庙，与第3军团守备在沂河东岸的部队进行激战。
在临沂城以北的王家岔河、七得，以及临沂城西北之十里铺、八里屯、小岭，临沂城以西之古城一带，59军亦正在与敌反复冲杀，为使一线阵地有兵可用，将临沂城交由鲁南保安部队的两个团防守，临沂城危在旦夕。
与此同时，在南线，日军第十师团敌33旅团在攻克藤县之后，主力已南进至临城，该旅团长濑谷启当即决定：一路向南追击至大运河一线；一路向东追击至峄县。即以福荣真平第63联队的第1大队由临城沿津浦路追向韩庄，并以其第2大队追向峄县。
值得一提的是，日军占领峄县的目的是为了控制该地区的枣庄煤矿，策应在以东临沂地区第5师团作战。
3月20日，日军攻占了韩庄和峄县，当日濑谷启接到第10师团要其占领和确保韩庄至台儿庄运河一线地区，担任临城与峄县的警备，派出一部兵力攻向沂州，协同第5师团作战的命令。
两天后，福荣真平的第63联队由临城到达了峄县。同日10时濑谷启下达了其旅团进攻台儿庄与协同第5师团作战的命令，台儿庄战役打响。
为了攻克台儿庄，日军出动了第十师团精锐，以63联队之第1大队，担任韩庄附近之守备。第2大队，野炮兵1个大队，从峄县出发，占领台儿庄及附近运河一线地区。
此外步兵第10联队主力由临城出发攻向临沂，策应第5师团第21联队作战，第33旅团主力集结于峄县附近。
第五战区自然也不会坐以待毙，面对来势汹汹的敌军，第五战区长官部当即做出反应，战区以主力一部在运河之线，取攻势防御态势，主力由峄县东南及东北山地，侧击南下之敌，聚歼于临、枣支路与韩庄运河间地区。