1905年日俄戰(zhàn)爭(zhēng)后，日本強(qiáng)占了中國(guó)的遼東半島和南滿(mǎn)鐵路。不久，日本將遼東半島改名為關(guān)東州，在旅順設(shè)立關(guān)東都督府，下設(shè)民政部和陸軍部。1919年在關(guān)東都督府陸軍部的基礎(chǔ)上，在旅順口設(shè)關(guān)東軍司令部。俄國(guó)在日俄戰(zhàn)爭(zhēng)中戰(zhàn)敗后，根據(jù)《樸次茅斯和約》將關(guān)東州(中國(guó)遼南旅大地區(qū))的租借權(quán)和南滿(mǎn)鐵路轉(zhuǎn)讓給日本。日本為維護(hù)其殖民利益，派遣2個(gè)師4萬(wàn)人的兵團(tuán)進(jìn)駐關(guān)東州及南滿(mǎn)鐵路附屬地，并設(shè)立關(guān)東總督府。次年，總督府改為都督府，下設(shè)陸軍部，轄1個(gè)陸軍師、6個(gè)獨(dú)立守備營(yíng)、旅順重炮營(yíng)和憲兵隊(duì)等。

20世紀(jì)上半葉，長(zhǎng)期侵駐中國(guó)東北地區(qū)的日本陸軍重兵集團(tuán)。1919年，都督府撤銷(xiāo)，改設(shè)關(guān)東廳，成立關(guān)東軍，首任司令立花小一郎，司令部設(shè)在旅順，直接隸屬于天皇。1926年進(jìn)入昭和時(shí)代后，日本加緊推行侵略中國(guó)和準(zhǔn)備對(duì)蘇作戰(zhàn)的大陸政策。1928年，關(guān)東軍制造皇姑屯事件，炸死中國(guó)奉系軍閥首領(lǐng)張作霖。1931年策劃“九一八”事變，侵占中國(guó)東北全境。次年炮制偽滿(mǎn)洲國(guó)，司令部遷至長(zhǎng)春，司令兼任日本駐“滿(mǎn)”大使和關(guān)東廳長(zhǎng)官，掌握偽滿(mǎn)軍政大權(quán)。從此，關(guān)東軍對(duì)中國(guó)東北實(shí)行殖民統(tǒng)治，殘酷鎮(zhèn)壓中國(guó)抗日軍民，瘋狂掠奪糧食和礦產(chǎn)資源，把中國(guó)東北建成日本進(jìn)一步侵略擴(kuò)張的重要戰(zhàn)略基地。

1928年6月，關(guān)東軍制造“皇姑屯事件”。1931年9月18日，關(guān)東軍制造“柳條湖事件”，并以此為借口炮擊東北軍大營(yíng)，發(fā)動(dòng)了九一八事變，拉開(kāi)了長(zhǎng)達(dá)十四年的侵華戰(zhàn)爭(zhēng)的序幕。1932年3月，建立滿(mǎn)洲國(guó)。

1939年5月，滿(mǎn)洲軍隊(duì)跟蒙古軍隊(duì)在諾門(mén)罕發(fā)生小規(guī)模邊境沖突，後演化成為關(guān)東軍對(duì)蘇聯(lián)紅軍的正面對(duì)決。朱可夫指揮六個(gè)旅七萬(wàn)名蘇聯(lián)遠(yuǎn)東軍，以機(jī)械化部隊(duì)擊敗兩個(gè)師團(tuán)約四萬(wàn)名關(guān)東軍。一萬(wàn)八千名日軍戰(zhàn)死或受傷。日本全國(guó)震動(dòng)，平沼內(nèi)閣請(qǐng)辭。關(guān)東軍司令官植田謙吉及參謀長(zhǎng)磯谷廉介被撤職。

1942年，太平洋戰(zhàn)爭(zhēng)開(kāi)始後，關(guān)東軍主力逐漸被抽調(diào)至太平洋戰(zhàn)線(xiàn)。在1943年戰(zhàn)況逆轉(zhuǎn)後，不少關(guān)東軍在太平洋的島嶼上被殲滅。1945年8月，蘇聯(lián)紅軍出兵東北，關(guān)東軍被擊斃八萬(wàn)三千人，被俘五十九萬(wàn)四千人。戰(zhàn)后，余下的關(guān)東軍官兵作為俘虜被送到西伯利亞從事強(qiáng)制勞動(dòng)。