關於魏中軍的組織係統，《曆代兵製》說：“有中、左、右、前軍各一師，又有中護、中領軍、領、護軍將軍各一人。其他雜號無常數。”陳傅良認為，漢的南北軍到曹魏時期演變為中、左、右、前軍了。其實，隻有中軍相當於漢的南北軍，所謂左、右、前軍等，顯然與中軍相對，可能是對留屯在不同地方的外軍的稱呼。《三國誌》、《資治通鑒》常有“東兵”、“東軍”一類提法，都是指留屯東方的外軍，左、右、前軍等也是這類提法。中軍的統帥，陳傅良認為有“中護、中領軍、領、護軍將軍各一人”。曆來談曹魏兵製者，多像他一樣，以為魏中軍同時存在中護軍、中領軍與領軍、護軍這樣一批統帥。其實領軍與護軍和中領軍與中護軍是不同時期的職官。《玉海》卷一三七：“魏武為相，以韓浩為護軍，史渙為領軍，非漢官也。建安十二年，改護軍為中護軍，領軍為中領軍。”這段話與史實略有出入，但指出中護軍、中領軍的前身就是護軍、領軍，無疑是正確的。改領軍、護軍為中領軍、中護軍，是由於當時中央軍在事實上已分成中軍與外軍，所以要在中軍統帥領軍、護軍前冠以中字。由於領、護軍改名中領、中護軍後還有人沿襲舊稱，載之史書，故後人往往認為領、護軍與中領、中護軍並存。對於中領軍或中護軍中資曆厚重者，可進稱為領軍將軍或護軍將軍，但中軍也不可能同時既有領軍將軍、護軍將軍，又有中領軍、中護軍。中領軍是中軍諸營的統帥，他親領中領營，並兼領中軍諸營；中護軍在中軍的地位僅次於中領軍，他負責武官的選用，並親領中護營。[16]
留屯各地的外軍，開始編製很不一致，統帥往往臨時由中央委派和更換。到魏文帝時，情況發生了變化。《曆代兵製》：“黃初三年，特置都督諸州軍事，尋加四征四鎮將軍之號，又置大將軍都督中外諸軍，位太尉上。”曹魏的都督諸州軍事，是代表中央分駐各地的軍事長官，所領是不同於州郡兵的中央軍隊。所謂四征四鎮，是指征東將軍、征南將軍、征西將軍、征北將軍與鎮東將軍、鎮南將軍、鎮西將軍、鎮北將軍等稱號，此外還有所謂四安四平將軍的稱號，這些都不是固定軍職，而是臨時贈封的稱號。從這些稱號也可以知道，那些都督諸州軍事的將軍，是代表中央去行征伐鎮壓之權。中外諸軍即中軍與外軍，“置大將軍都督中外諸軍”，則是以大將軍統帥全國中央軍，大將軍成為曹魏最高軍事統帥。曹魏政權是取代東漢王朝而建立的，開始仍以太尉為最高軍政長官，置大將軍後，太尉最重要的權力被分割，所以大將軍“位太尉上”。
綜上所述，曹魏中央軍的係統是：
|——中軍-領軍、護軍——諸營將校
中央軍-大將軍——|
|——外軍-都督諸州軍事
除了中軍與外軍，曹魏政權還有作為地方兵的州郡兵。東漢光武帝罷兵募士，郡國兵力十分薄弱。到東漢末年，一些州郡守割據稱雄，兵力轉強，多數州郡的軍隊則逐一消滅或兼並。曹操統一北方，大大小小的割據武裝或被消滅，或被收編，北方各州郡往往隻有留屯的中央軍，而沒有地方武裝了。當時丞相主簿司馬朗建議令州郡都建立地方武裝，以“外備四夷，內威不軌”。《曆代兵製》：“自納司馬朗之言，複令州郡典兵，然未置尉，蓋太守或刺史兼帥。”州郡兵以守備本州郡為職，必要時也應調出征。州郡兵地位比中軍、外軍低，“州郡都督不與中外軍同......苟在中軍之例，雖下功必侯；如在州郡，雖功高不封”，[17]但地方州郡長官的權力卻借此大大膨脹起來。所以《曆代兵製》認為，曹魏政權的“兵權外聚於州牧，內歸於大將軍及太尉”。因此後來有人上疏魏明帝，要求解除緣邊州郡刺史、太守的領兵權，另外派遣大將去鎮守，以免刺史、太守領了兵則“專心軍功，不勤民事”，而不能“獨修務本之業”。
武功
南匈奴
東漢末年天下大亂，諸胡趁著漢末動亂之際入侵中原，南匈奴最先卷入漢末爭霸。漢靈帝駕崩後，於扶羅乘黃巾之亂，和白波軍，黑山軍合流進犯太原，河內等地。
初平二年秋，於毒，白繞，睦固率領十萬大軍攻打魏郡，東郡，於扶羅親率騎兵援助黑山軍，王肱不能抵擋，曹操率軍入東郡，在濮陽以少勝多，擊潰白繞的部隊。第二年春，於毒進攻武陽，曹操采用“圍魏救趙”的辦法，攻擊於毒大本營，大敗於毒、睦固，緊接著，又在內黃大破於扶羅，此戰讓南匈奴侵擾幾乎停止。[19]
興平元年，袁術率軍入陳留，於扶羅，黑山餘部等佐之，皆為曹操擊破，於夫羅最終歸順了曹操。[
興平二年，於扶羅病死，呼廚泉繼單於位，並於建安七年在平陽發動叛亂，被鐘繇軍隊擊敗，再度向曹操投降。[21]
建安二十一年，呼廚泉入鄴城朝覲時被授予官職，曹操乘機將他留在鄴城，下令將匈奴汗國分為五部，每部各設立一個都督，直屬中原王朝。這個煊赫一時，立國約四百三十年的匈奴汗國名存實亡。[22]
青龍元年，屯駐安定地區保衛邊塞的匈奴首領胡薄居姿職等人率部反叛，但旋即被胡遵所平定。
烏桓
烏桓乘漢末之亂，中原多事，故得擅漠南之地，遼東、遼西等地的烏桓大人趁亂稱王，三郡烏丸的首領遼西烏丸大王丘力居死後，因為兒子樓班尚小，由頗有武略的侄子蹋頓代立，總攝三王部。蹋頓在袁紹與公孫瓚交戰時主動遣使與袁紹和親，並幫助袁紹與公孫瓚作戰，作為回報，袁紹不但與烏丸部諸王和親，還遣使詔拜烏丸三王為單於。
曹操平定河北之際，三郡烏桓出兵獷平，攻打攻鮮於輔，曹操率兵救援，烏桓逃回塞北。[24]為了徹底後患，曹操於建安十二年出兵遠征烏桓，在郭嘉的建議下，率輕騎千裡奔襲，在當地名士田疇指導下。密出盧龍塞，直指單於庭，到達後曹操迅速任命張遼為前鋒並且將指揮旗授予給張遼。張遼率軍奔襲烏桓軍隊，爆發了白狼山之戰。此戰，烏桓軍隊“虜眾大崩”，蹋頓被斬，胡、漢降者20餘萬人。[25][26][27][28]
建安二十三年，代郡烏桓反叛，鮮卑出兵相助，曹操操派遣曹彰及田豫率軍平叛，大破烏桓鮮卑聯軍，乘勝逐北.，追到了桑乾，“斬首獲生以千數”。[29][30]黃初年間，烏桓王骨進桀驁不馴，被田豫斬殺，並以骨進之弟統領其部眾。[31
鮮卑
鮮卑在漢末實力不斷增強，吞噬匈奴故地，步度根、軻比能各自崛起，成為鮮卑兩股強大的勢力，步度根被中兄扶羅扶為大人，柯比能“勇健，斷法平端，不貪財物”，也被眾人推舉為大人。
建安中，曹操平定幽州，步度根與軻比能等通過烏桓校尉閻柔上貢。
黃初初年，鮮卑的數十個部落聯合在一起，以軻比能、素利、彌加三個首領為首，不和曹魏進行貿易，不賣給曹魏馬匹。田豫認為胡人聯合對中國沒有好處，隻會增加危害，便決定是用離間計讓軻比能、素利、彌加自相殘殺，以此消弱他們的勢力。後來素利違背盟約和曹魏進行貿易，軻比能得知後便揮軍討伐素利，而田豫認為這是個消弱鮮卑的好機會，便決心幫助素利擊敗軻比能，隨後田豫率領部隊，孤軍深入，當時胡人眾多，在魏軍前後進行抄掠，截斷退兵之路。田豫遂率軍挺進，距鮮卑軍十餘裡時，紮下營寨，收集許多牛馬的糞便燒了起來，從另外一條路撤走了。軻比能見煙火不斷，以為田豫的軍隊還在，便離去了，走了數十裡之後；才發現田豫已撤走。軻比能又率軍追擊田豫至馬城，將其重重圍困，田豫嚴密防守，令司馬樹立起旗幟，奏起鼓樂，率步騎兵從南門殺出，鮮卑軍把注意力集中到哪裡，便向哪裡攻擊。田豫則率領精銳騎兵從北門衝了出來，擂鼓呼叫衝殺，兩麵發起衝擊，鮮卑軍措手不及，陣腳大亂，都丟棄弓、馬逃走了。田豫率兵連擊二十餘裡，鮮卑軍的屍體布滿了原野。[
步度根不斷與軻比能相互進攻，其勢力日益衰弱，隻得率領部下萬餘人保守太原、雁門郡。不久，泄歸泥率其部下逃奔步度根。軻比能想派兵追趕，可是沒有追上。步度根、泄歸泥率三萬多戶百姓來到雁門郡內，請求歸附曹魏。雁門太守牽招下令還擊軻比能，殺死了軻比能的弟弟苴羅侯。軻比能與烏丸歸義侯王同、王寄等，結下怨仇。因此，牽招又親自率領歸泥等攻打軻比能，在雲中故郡打敗軻比能。[34]
黃初五年，軻比能再次侵犯素利。田豫率輕騎牽製了軻比能的後部。軻比能派部將瑣奴抵禦田豫，田豫出奇兵擊退瑣奴。[35]