日军打算在北线负隅顽抗，但是却小瞧了苏军的战斗力，也小瞧了国军的作战勇气。
苏军在东部地区的进攻开始后，以多路越过横广正面，在大量炮兵、坦克、机群的掩护下，向纵深推进，很快摧毁了日军仓促组织起来的第一线防御，和绕过了日军构筑多年的东宁、绥芬河、虎头等坚固筑垒地域。
东部苏军之攻击重点，是沿着绥芬河向西的铁路玫占牡丹江。防守在这一带的日军第124师团，在开战前其所属之步兵第271、272、273联队及师团之炮兵，原在绥阳地区布防。
但在6月下旬奉命将其防区后移至穆棱镇地区，苏军进攻时，这个师团将其271联队部署于铁路以南地区，第272、273联队和15公分口径榴弹炮、30公分口径榴弹炮、15公分口径加农炮等炮兵部队均部署在穆棱镇的铁路以北。
为了加强该师团之守备力量，第5军还从135师团中抽出两个步兵大队归其指挥。
8月11日上午，苏军对124师团的阵地，首先以猛烈地炮火对其进行破坏性的射击，空军则进行猛烈的轰炸，至8月12日中午，苏军已攻入敌124师团穆棱镇的主阵地。
由于苏军机群的连续轰炸，炮兵部队的猛烈射击，坦克部队和步兵的来往冲杀，此时敌在穆棱镇路以北的炮兵阵地已被摧毁，火炮大部被炸坏。
由于苏军在立体和平面上的强攻，敌124师团伤亡很大，如273联队长及3个大队长全部战死。
至8月13日，仅两天的时间，这个师团已无力再组织抵抗，在该师团行将覆灭前，其272联队长竟要求集合全部尚剩人员，以军旗开道与苏军进行最后一次决死之冲杀。
但此时的椎名正健中将知大势已去，全师团己溃不成军，后方亦被苏军迂回隔断，因而他决定撤出战斗，率残部潜入铁路两侧之林区而后撤。
就在第124师团与苏军激战时，第5军司令官清水规矩正在调集部队以加强对牡丹江市的防守。
调在密山地区的第135师团，至牡丹江市东北就近的桦林地区；调在八面通的第126师团至牡丹江以东铁路线上的四道岭地区，与135师团组织正面防守。
当126师团一部于11日晚、135师团一部于13日晚到达指定地区，正在挖单人掩体和交通壕时，其在穆棱镇前方的第124师团已被歼灭，苏军一部已迂回至磨刀石车站。
为阻止到达磨刀石的苏军继续前进，清水规矩急调其军部之干部教育队一个大队约1千人和后勤干部教育队约600人，并配备了1个15公分口径的榴弹炮中队及135师团增强第124师团的两个步兵大队，由第3野战筑城队队长小林大佐指挥，部署于磨刀石以西之铁路两侧。
由于电话不通和电台联络不畅，直至8月14日的半夜，敌第5军守卫牡丹江市的作战计划才上报至敦化的方面军司令部，但喜多诚一训令第5军，应奋力抗击以阻止苏军，不得已时部队后撤至横道河子和敦化地区。
第5军组织四道岭地区防御，时间非常仓促。先到达该地的126师团，以掖河车站为中心，向东、向南形成半圆形之防御地带。
师团司令部位于掖河站以南之兵器厂，277联队位于掖河车站以南，278联队位于掖河车站之东南，279联队在四道岭铁路正面两侧，并派出一部扼守铁路北侧之高地。
原在密山的第135师团，到达牡丹江东北的桦林与四道岭之间新阵地的时间较晚，因接到紧急转移命令时，其368联队还在虎林镇，而该联队尚有分散在松阿察河沿岸和乌苏里江边的独木河及在饶河县城的部队，此时部分铁路已经被苏军控制，368联队将收拢的部队沿着铁路以北向西，步行至裴德才与369联队、至鸡西才与370联队会合，乘火车至牡丹江以东地区，然后进入新阵地。
日军135师团撤离密山地区后，在鸡西、密山、虎林、饶河一带，已无日军的主力，此时仅有在虎头的第15国境守备队。
根据第1方面军“没有另外的命令不准撤退”的规定，依托其筑垒地域继续进行顽抗，但该守备队此时对周围的军事情况一无所知。