1931年9月18日，日本帝國主義發動了侵華戰爭，由于國民黨政府推行不抵抗政策，致使日軍在幾天內就占領了沈陽、長春、吉林等大城市，接著侵占了中國東北大部分領土。為了抵抗日軍侵略，中國共產黨號召人民起來抗日。東北人民和東北軍部分愛國將士組成義勇軍、救國軍、自衛軍等抗日武裝，統稱東北抗日義勇軍，在東北各地抵抗日軍的進攻(參見東北抗日義勇軍對日作戰)。中共滿洲(今東北三省)省委員會首先動員共產黨員和廣大群眾參加抗日義勇軍。1932年1月開始組建自己直接領導的抗日武裝對日作戰，到1933年，已組成10余支抗日游擊隊，在黑龍江省巴彥、湯原、吉林省珠河(今尚志)、寧安、密山、饒河(四縣今屬黑龍江省)、琿春、汪清、延吉(今龍井)、和龍、盤石、遼寧省海龍、安圖(今均屬吉林省)等地開展游擊活動。

主要領導人有楊靖宇、趙尚志、童長榮、夏云杰等。中共滿洲省委還派周保中、李延祿等共產黨員到東北義勇軍中進行工作。

1933年1月，中共中央提出全民族抗日統一戰線和同其他軍隊共同抗日的方針后，各游擊隊開始和抗日義勇軍、抗日山林隊共同作戰，部隊得到迅速發展，繼擴編為東北人民革命軍。到1936年春，相繼成立6個軍：第1軍，軍長兼政治委員楊靖宇;第2軍，軍長王德泰，政治委員魏拯民;第3軍，軍長趙尚志，政治部主任馮仲云;第4軍(東北抗日同盟軍)，軍長李延祿，政治部主任何忠國;第5軍(東北反日聯合軍)，軍長周保中，政治部主任胡仁;第6軍，軍長夏云杰，政治部主任張壽(即李兆麟)。第1、第2軍活動于南滿和東滿地區;第4、第5軍活動于吉東地區;第3、第6軍活動于北滿地區。各軍廣泛開展游擊戰爭，打擊日偽軍。人民革命軍經過兩年多的艱苦斗爭，粉碎了日偽軍多次討伐，殲滅大量日偽軍，發展到萬余人，擴大了游擊根據地。

1936年2月，東北人民革命軍陸續改為東北抗日聯軍。將原來的6個軍依次改為東北抗日聯軍第1至第6軍，以后又組建了第7至第11軍。第7軍，軍長陳榮久，政治部主任鄭魯巖，活動于饒河、虎林、撫遠地區;第8軍軍長謝文東，政治部主任劉曙華，活動于依蘭、方正、勃利地區;第9軍，軍長李華堂，政治部主任王克仁，活動于勃利、依蘭地區;第10軍，軍長汪亞臣，政治部主任侯啟剛，活動于五常、舒蘭地區;第11軍，軍長祁致中，政治部主任金政國，活動于樺川、富錦地區。到1937年底，東北抗日聯軍發展3萬余人，在黑龍江、吉林、遼寧3個省、70余縣的范圍內展開積極作戰，相繼進行子蓮花泡、興山鎮、舒樂河、大蒲柴河、哈達河、撫松、西關街、佛山、冰趟子、依蘭、湯原、五道崗、輝南等許多重要戰斗和反討伐作戰，牽制日軍數十萬人的兵力。

從1938年下半年開始，日偽軍集結重兵對各抗日游擊區進行大討伐，此間，謝文東、李華堂、鄭魯巖相繼叛變。抗日聯軍在斗爭極端殘酷，處境十分艱難的情況下繼續堅持斗爭。抗聯各軍先后組成了第1、第2路軍和第3路軍，但因兵力過于分散，無力粉碎日偽軍的進攻，被迫進行遠征，部隊受到巨大損失，除新開辟的黑龍江、嫩江平原游擊區外，各軍原有的游擊根據地和深山中的密營先后喪失，處境極端困難，到1942年初，大部斗爭受挫，各部除留下若干小部隊堅持斗爭外，其余部隊先后退入蘇聯境內整訓。

堅持北滿地區抗日游擊戰爭的抗聯第3、第6、第9、第11軍，至1938年6月已與日偽軍作戰數百次，取得較大戰果，但自身也損失嚴重。鑒于海倫地區日偽軍統治薄弱，中共北滿臨時省委決定抗聯上述部隊大部向海倫遠征，開辟新區。同年夏，除第9軍主力留原地堅持斗爭外，其余各部陸續從湯原、蘿北、綏濱地區出發遠征，先后抵達海倫、德都地區，依托小興安嶺開展黑(龍江)嫩(江)平原抗日游擊戰爭。1939年5月30日，上述各部合編為抗聯第3路軍，張壽筏(又名李兆麟)任總指揮，馮仲云任政治委員。至1940年，第3路軍先后開辟了朝陽山、阿榮旗、甘南等游擊區，并取得了訥河、德都、肇州、肇源等戰斗的勝利，殲滅日偽軍數百人。

1939年10月，日偽軍調集7萬余人進行以抗聯第1路軍為主要目標的“大討伐”。第1路軍分散游擊，進行了極端艱苦的反“討伐”作戰，相繼取得了安圖大沙河、紅旗河伏擊戰、奇襲哈爾巴嶺車站和天寶山銅礦等戰斗的勝利，但第1路軍也遭受慘重損失。1940年2月23日，第1路軍總司令兼政委楊靖宇在瀠江一帶遭敵重兵包圍，英勇犧牲。與此同時，抗聯第2、第3路軍也在與日偽軍的激烈戰斗中遭到嚴重損失。

由于斗爭形勢惡化，各路軍減員嚴重，1940年1月24日至3月19日，中共吉東、北滿省委代表舉行聯席會議，決定采取保存實力，逐漸收縮的方針，將各路軍縮編為10個支隊，即：第1路軍縮編為第1、第4、第7支隊;第2路軍縮編為第2、第5、第8支隊;第3路軍縮編為第3、第6、第9、第12支隊。4月，第3路軍首先完成縮編;4月和翌年2月，第2路軍分別完成了第2、第5支隊的縮編;第1路軍因遠在南滿，聯系中斷，仍以幾個方面軍的番號活動，直至1941年3月始將第2方面軍縮編為第1支隊。

1940年，日本關東軍增至11個師，對抗聯進行更為殘酷的“討伐”，形勢日益嚴峻。為保存力量，第1、第2路軍大部和第3路軍一部先后轉至中蘇邊境蘇方境內，成立南野營，進行軍政整訓。第3路軍大部繼續在黑嫩平原和大、小興安嶺地區開展游擊戰爭，1941年攻克甘南縣寶山鎮、慶安縣大羅鎮，襲擊瑗琿縣汗達氣金礦，共進行戰斗20余次。1942年2月，第2路軍副總指揮趙尚志在襲擊鶴崗梧桐河偽警察分所時犧牲。隨后第3路軍大部也轉移至中蘇邊境。1942年8月，南北野營合編為抗日聯軍教導旅，周保中任旅長，張壽筏任政治委員。此后，教導旅在進行整訓的同時，派遣十幾支小部隊深入東北各地開展游擊活動，進行戰略偵察。1945年8月，抗日聯軍教導旅協同蘇聯紅軍進軍中國東北，參加對日反攻作戰，后與進軍東北的八路軍、新四軍合編。

東北抗日聯軍在極為困難的條件下，長期獨立奮戰，不僅延緩了日本侵略軍對東北全境的占領和對戰略物資的掠奪，而且在東北戰場上牽制了幾萬到幾十萬日本關東軍。全國抗戰開始后，東北抗聯又對華北、華中和華南地區的抗戰起了戰略上的配合作用，并為保障蘇聯遠東地區的安全，支援蘇聯人民的反法西斯戰爭作出了貢獻。