1932年1月25日，馮占海、李杜率部進至哈爾濱東郊，第22、第26、第28旅先後宣布起兵響應。26日晨，馮、李兩部分四路進入市區，將5個警察總隊強行解除武裝，共繳槍3000餘支和重武器一批；並將第26、第28旅和1個團置於上號地區：馮占海部4個旅和兩個支隊置於三棵樹、南崗地區，將第22旅置於雙城堡，準備抗擊日軍進攻。同日午後，日軍飛機向哈爾濱散髮傳單，公然限令抗日軍即日退出哈市；日本駐哈領事館也向各國領事館發出通告，聲言日軍將於28日3時進入哈市。

26日，馮占海聯合依蘭鎮守使李杜進駐哈爾濱。27日凌晨，偽吉林剿匪司令于深澄指揮2個旅向上號、三棵樹、南崗地區發動進攻，日軍飛機對三棵樹、南崗地區狂轟濫炸。擔任該地區防禦任務的2個旅頑強抵抗，戰鬥異常激烈；不久，馮占海等率預備隊投入戰鬥，一邊開展政治攻勢，一邊猛攻，偽軍不支，向拉林倉方向敗退。

擔任上號防禦任務的部隊戰鬥十分頑強，斃傷大批日偽軍，擊落飛機1架，並爭取偽軍團長田德勝率部起義，到傍晚，將偽軍擊退。

28日上午，抗日軍進至極樂寺、文廟一線，在炮火支援下攻占新發屯附近有利地形；騎兵旅繞至偽軍側後發動猛攻，偽軍全線潰敗，向阿城方向逃走；宮長海率騎兵追擊15公里，俘大批偽軍。經27日、28日兩天激戰，擊退日偽軍對哈爾濱的第一次進犯。

1932年1月28日晨，本莊繁藉口護僑直接出兵進攻哈爾濱，命關東軍第3旅團長谷部照率第4聯隊、炮兵大隊及坦克2輛，從長春乘火車去哈爾濱作戰。29日又下達作戰命令：第2師團向長春集結，爾後以車運至哈爾濱；混成第4旅團一部，從齊齊哈爾以車運至安達、肇東，從哈爾濱北面策應第2師團作戰；關東軍飛行隊第1、第3、第8、第9中隊掩護第2師團集結、開進和進攻。

長谷部率第4聯隊從長春乘火車出發。由於鐵路多處被東北軍破壞，29日拂曉，其列車到達松花江南岸的老哨溝一帶時即受到東北軍的攻擊。日軍立即改為攻擊前進，在不斷遭到阻擊的情況下，於當晚進至三岔河以北的石頭城子村。

30日20時許，日軍第3旅團長谷部支隊、軍車2列先後開進雙城車站，擬在雙城宿營，翌日再向哈爾濱進攻。趙毅部正在此設伏。

日軍先頭部隊軍車2列到站後，日軍下車集結，準備部署對哈爾濱的進攻。設伏部隊乘敵架槍吃飯、毫無準備的有利時機，突然從三面發起攻擊，以猛烈的火力將敵壓迫於站台上下，繼而以刺刀、手榴彈與敵展開白刃戰。日軍措手不及，死傷甚重。次日，日軍由長春派出重兵，在飛機、大炮和坦克支援下，向雙城堡發動進攻；趙旅困守孤城，傷亡團長以下600餘人，被迫放棄雙城堡，退到哈爾濱，雙城失守，哈爾濱門戶洞開。

自衛軍將大部兵力配置於哈市城南及東南、西南的顧鄉約屯、病院街、舊哈爾濱城、拉拉屯一線。同日，依蘭鎮守使兼第24旅旅長李杜、吉林省警備軍司令馮占海、第26旅旅長邢占清、第22旅旅長趙毅以及代理護路軍司令兼第28旅旅長丁超、吉林警務處處長王之佑等決定聯合編成吉林省自衛軍，公推李杜為司令，馮占海為副司令，王之佑為前敵總指揮；並決定以第22、第24、第26、第28旅擔任哈爾濱城防，以馮占海率第1旅等部繞道襲擊吉林和長春，以阻止日軍進攻。

日軍第2師團各部於1932年2月3日先後到達葦塘溝河地區。以多門為師團長的日軍第2師團，開始進攻哈爾濱外圍自衛軍前哨陣地，第2師團之第3步兵旅團和偽吉林剿匪司令於深澄指揮5個旅為右翼縱隊，向秦家崗、南崗、上號地區中國守軍進攻；日軍步兵第15旅團為左翼縱隊，經松花江畔八里堡向顧鄉屯進攻；經戰鬥自衛軍前哨陣地全部失守，退回基本陣地。

4日晨，日軍發起總攻，自衛軍全部投入戰鬥，下午，日軍展開於鐵路兩側的顧鄉約屯以南、永發屯、楊馬架一線，第3旅團在鐵路以東，第15旅團在鐵路以西。炮火準備後，日軍發起攻擊。吉林自衛軍利用工事和村莊房屋頑強抵抗，炮兵集中火力對進攻的敵軍實施殲滅射擊，殺傷了大量敵人。日軍攻擊頓挫，轉為就地防守。至16時，楊馬架至永發屯地段被日軍占領。

自衛軍頑強抵抗，日軍轉為重點進攻，其左翼縱隊猛攻顧鄉屯；防守該地自衛軍第28旅利用民房、墻垣堅決抗擊，但旅長王瑞華卻臨陣脫逃，部隊失去指揮，只得放棄陣地退入市區。日軍右翼縱隊猛攻自衛軍26旅防區，旅長邢占清率部拚死抗擊，終因裝備懸殊，被迫放棄南崗陣地，退到十六道街江壩上。

在此前後，王之佑指揮西、南防線也相繼失守。在此緊急時刻總司令李杜親臨前線，組織部隊在市區邊緣構成第三防線，戰至天黑，將日軍阻止於原地。

1932年2月5日拂曉，自衛軍開始反擊，首先以炮兵實施火力準備，對鐵路以東的日軍第3旅團陣地集中射擊，爾後步兵開始出擊。第一線日軍陷於苦戰困境。第2師團長多門二郎急令炮兵對反擊的自衛軍實施攔阻射擊，並將坦克隊和預備隊投入反擊。

飛行隊的4個中隊從雙城臨時前進機場起飛，輪番轟炸、掃射，以支援地面部隊作戰。戰鬥異常激烈，雙方傷亡均眾。由於自衛軍沒有空軍支援，日軍飛機威脅甚大，於5日下午全線撤至哈爾濱以東地區，日軍進入哈爾濱市，哈爾濱隨即淪陷。

歷史影響：

哈爾濱的淪陷標誌著在東北三省的抗日政權和東北軍的瓦解，以東北軍為主體的抵抗活動趨於消沉，大規模的正面軍事抵抗結束，代之而起的是各地義勇軍的抗日鬥爭。哈爾濱被占領後，日本將731部隊在此建立，開始進行細菌戰研究。

另外，在哈爾濱保衛戰後，日本關東軍向抗日軍領袖馬占山提供一百萬美元的黃金，以換取其投奔到新成立的滿洲國軍。由於丁超等將領被擊敗，於是馬占山決定在1932年2月14日同意條件，並保留其黑龍江省省長職務假意與日本人合作。

不久後，1911年退位的末代皇帝溥儀，在奉天的「東北政務會議」上出任新獨立國家滿洲國的臨時執政，其成員內就包括馬占山。第2天的3月1日，滿洲國政府成立，馬占山被任命為戰爭部長兼省長。

1個月之後，馬占山於同年4月1日從黑河秘密逃出，通過無線電發出了東北全境徹底抗戰的呼籲，並組織了東北救國抗日聯軍，繼續進行游擊抗日活動。