民國二十一年一月，得到補給和整訓的遼南義勇軍，再次進入錦州地區，在遼南一帶重新掀起反抗日軍的游擊戰爭。張老大成了這支幾乎煥然一新的遼南義勇軍的首領，但是軍事指揮權全權委託給副首領黃煒，最精銳的主力分隊則由王河山負責。
如果不是日本人緊急調走了戰力強大的第二師團，使得遼南地區兵力出現短暫空缺，一頭撲進遼南打游擊的義勇軍隊伍，估計會馬上碰到舉步維艱的境地了。
第二師團是日本陸軍戰鬥力最兇悍的主力師團之一，長期作爲關東軍的骨幹部隊，駐紮在南滿地區，適應東三省的作戰環境，因此幾乎被當成了關東軍南征北戰奪取滿州的開路先鋒。第二師團不僅是九一八事變中發動第一波攻擊的元兇，而且也是甲午戰爭時期攻佔威海衛的日本陸軍主力。
在這個當口，精銳的第二師團自然是被總兵力依然相當薄弱的關東軍予以重用，北上進攻最後一個東北軍重要據點哈爾濱。
在九一八事變爆發後近六個月，得到駐朝鮮日軍和本土大力支援的日本關東軍，也不過辛辛苦苦聚集了六個師團的兵力而已，完全不能徹底控制廣袤的東三省腹地。尤其是當關東軍順利擊敗齊齊哈爾東北軍後，爲了防止北方軍從海拉爾一帶的突襲，至少牽制了一個半師團的兵力常駐齊齊哈爾。
爲了進攻錦州，又調集了第二十師團和第二師團等部隊，再加上遼東半島基地的一個師團防守力量，能夠用於向哈爾濱進攻的關東軍兵力已經捉襟見肘。
因此在民國二十年末，在關東軍的支援下，大漢奸、吉林剿匪司令於深澄絞盡腦汁蒐羅了五個旅的僞軍部隊，主動承擔起關東軍進攻職責，向哈爾濱駐守的東北軍餘部發起大規模的攻勢。
只是於深澄部僞軍的戰鬥力實在值得懷疑，在關東軍飛機狂轟濫炸的掩護下，五個齊裝滿員的步兵旅，居然被由東北軍、警察部隊、鬍子武裝等雜七雜八人員組成的哈爾濱自衛軍打得屁滾尿流。
就在關東軍爲兵力不足一籌莫展之時，錦州東北軍再一次上演不戰而逃，將關外重點拱手讓給日本人。意外騰出手來的關東軍，大喜之下，立即將原準備在錦州苦戰一場的第二師團北調進攻哈爾濱，以彌補於深澄部僞軍的無能造成的北滿局勢被動。
就在關東軍第二師團磨刀霍霍向北進的時候，日本海軍在上海發動了大規模進攻，一二八事變爆發。一邊內訌不斷，一邊看着北方唱戲的南京政府，立馬被捲入了實質抵抗日軍侵略戰爭之中。
日本軍部是一個矛盾的混合體，不僅陸軍和海軍內部溝壑深深，就是日本陸軍之間都是充斥着扯後腿和不合作問題。
日本關東軍在東三省的高歌猛進，所獲豐厚，讓無所事事的海軍大爲惱火，東京軍部海陸之爭的巨大裂痕差點就明晰化了。不少海軍少壯派軍官瘋狂叫囂，不能讓關東軍再這麼勝利下去，否則會對海陸軍費劃分造成巨大壓力，以至於減少了海軍經費的撥付。
於是，在緊急磋商之後，在上海外海的日本海軍第一遣外艦隊悍然發起上海的進攻，大批海軍陸戰隊士兵在軍艦和飛機火力支援下，以大批裝甲車爲先導，直撲南京政府第十九路軍以及剛好趕來接防的憲兵第六團陣地。上海保衛戰爆發。
第十九路軍和憲兵第六團倉促接敵，在火力劣勢的情形下，差點被突襲的日軍一舉突破陣地。所幸這些部隊都接受了東北軍慘遭國民痛罵的教訓，第一時間自發反擊，在巨大的傷亡代價下勉強擊退了兵力稀少的日本海軍陸戰隊進攻。
日本海軍一擊不中，立即決定大量增加援軍，繼續發動進攻。但是日本海軍陸戰隊規模畢竟有限，結果被同樣得到南京政府陸軍和空軍支援的上海駐軍擊退。
再次失利後，日本海軍前線指揮官立即被撤，新到任的指揮官第一件事情就是被迫邀請日本陸軍參與進攻上海。
於是在關東軍總部摔杯子、拍桌子、狂發電報的大罵聲中，原本準備調往東三省的三個陸軍師團，立即更改了目的地，改爲奔赴上海蔘戰。
陸軍跨海機動必須依仗海軍的大力支持，東京軍部面對海軍的強烈要求，被迫妥協了。
關東軍的求援電報，只好發給了另外一支駐守在中國的日本軍隊，總部在天津的華北駐屯軍。
但是總兵力超過一個旅團規模的華北駐屯軍同樣眼紅於關東軍的赫赫戰功，一口就回絕了關東軍要求派兵入關支援的電報，甚至還假惺惺地向駐守京畿的東北軍派出慰問人員，表示支持少帥張學良的談判解決爭端建議。
更詭異的是，少帥張學良居然接見了華北駐屯軍代表，還向其表示感謝。這個時候，在京畿地區，以及熱河、綏遠一帶，足足駐紮了剛撤下來的東北軍近三十多萬人，有足夠的實力吃掉在天津的不過八千多人的華北駐屯軍。
更讓人無語的還在後頭。華北駐屯軍一直以維持日僑安全爲由，在多個要害駐紮有少量軍隊，比如重鎮山海關。
面對佔據錦州的第二十師團咄咄逼人的進攻勢頭，防守山海關的東北軍部隊，竟然始終同駐紮在山海關腹地的華北駐屯軍一箇中隊近二百人保持着友好態度。日本士兵每天準時出操訓練，每天逛街暗記防禦工事，東北軍一律笑顏相迎，彷佛只是一牆之隔就不是日軍似的。
得不到更多後援的日本關東軍差點抓狂了，但是很快就有人幫着出了主意。
這個主意源自於日本人屢試不爽的大炮加金條攻略。
第二師團主力到達哈爾濱前線後，憑藉着強大的戰力，讓防守的哈爾濱自衛軍打得非常艱苦，最關鍵的是彈藥補給缺乏。
迫不得已，聽命於少帥張學良的哈爾濱自衛軍，向東北軍總部請示，能否接受北方軍的援助。北方軍的援助小分隊，事實上就在哈爾濱的前線，但是始終沒有得到自衛軍總部的承認罷了。
被華北駐屯軍的親切慰問搞混了頭的少帥張學良，發來電報要求哈爾濱自衛軍要以打促和，但是爲了避免事態擴大堅決拒絕北方軍的援助。
就在同時，因爲作戰不力被關東軍痛罵一頓的大漢奸於深澄，雖然打戰不行，拉關係走後門卻是非常嫺熟的。哈爾濱自衛軍的一名旅長，以幫助滿族中興爲藉口，秘密接受了於深澄的金條，在戰鬥正酣之時，忽然放棄指揮臨陣脫逃，自衛軍頓時大敗虧輸。
次日，哈爾濱淪陷，自衛軍徹底潰散，東北軍遺留在東三省最後的一支成建制部隊被殲滅，東北軍已經失去了對東三省的話語權。
哈爾濱攻克之後，關東軍總部高度重視了滿族中興這一口號，僞滿洲國很快就進入了成立的具體日程安排。