在军队架构上，曹魏的中央军分为中军、外军两部分，以大将军或都督中外诸军事的长官为最高军事统帅，中军由中央直接管辖，外军则允许驻屯在各地，由将军、都督统领。最高军事统帅的任命最早可追溯至汉献帝建安二十二年（217），曹操于当年三月征讨孙权撤军后留亲信将领夏侯惇、曹仁、张辽等屯驻居巢（今安徽桐城以南），其中夏侯惇为最高军事统帅，奉命“都督二十六军”[2]，夏侯惇也是曹魏建立政权后首位被授予大将军一职的武人。在历次重大军事行动中，曹魏朝廷亦会授予最高指挥官“都督中外诸军事”的权力，如魏文帝黄初三年（222）征讨孙权时“以（曹）真为上军大将军，都督中外诸军事，假节钺”[3]，魏高贵乡公曹髦甘露二年（257）征讨叛将诸葛诞的战事中“大将军司马文王督中外诸军二十六万众”[4]。

在曹魏的中军中，统帅称为中领军、中护军，其中的资历深厚者可进称领军将军、护军将军。《晋书·职官志》载：

魏武为相，以韩浩为护军，史涣为领军，非汉官也。建安十二年，改护军为中护军，领军为中领军，置长史、司马……及拔汉中，以曹休为中领军。文帝践阼，始置领军将军，以曹休为之，主五校、中垒、武卫等三营。

可见，曹魏中军内虽保留原东汉时代设立的北军五校编制，但五校兵员却少得可怜。中军兵员大都分配至新设立的武卫、中垒、骁骑、中坚、游击等新五营，由将军、校尉率领，必要时也参与出征。如魏明帝曹睿太和二年（227），蜀汉方面出兵急攻陈仓，曹睿“遣南北军士三万及分遣武卫、虎贲使卫（张）郃”[5]，即将其中的中军武卫营调拨张郃参与解救陈仓的作战。

曹魏对于驻屯各地的外军，原由中央临时委派统帅。黄初年间，设置都督某州军事的将军，作为代表中央驻各地的军事长官，尤其是为曹丕所倚重的宗室重臣曹休、曹真二人，均被授予都督军事的大权。其中曹休于夏侯惇去世后都督扬州军事，负责抵御孙吴，曹真则都督雍、凉州诸军事抵御蜀汉。二曹之后，曹魏宗室成员已无善战之辈，都督州军事的职务一般授予常年与吴、蜀交战且功勋卓著的战将。如常年镇守陇右的郭淮、陈泰和常年对吴作战的王基、王昶。其中郭淮“迁征西将军，都督雍、凉诸军事”[6]；陈泰“代（郭淮）为征西将军，假节都督雍、凉诸军事”[7]；王昶“迁征南将军，假节都督荆、豫诸军事”[8]；王基“以本官行镇东将军，都督扬、豫诸军事”[9]。比较特别的是，这种军事长官还带有当地的州长官头衔，可以过问地方政务，如《三国志·魏书·王基传》中提到其本人在都督豫州诸军事时又担任豫州刺史一职。(www.daowen.com)

曹魏的地方武装力量为州郡兵，州郡兵由州郡长官统领，以守备本州郡为主要职责，必要时也听从征调。伐蜀时，征西将军邓艾就曾征调天水太守王颀、陇西太守牵弘、金城太守杨欣等人协同作战。需要指出的是，曹魏朝廷历来偏袒中央军，州郡军的地位根本无法与中央军相比，这一点在魏灭蜀之战中尤为明显。在《晋书·段灼传》中记载：

州郡将督，不与中外军同，虽在上功，无应封者。唯金城太守杨欣所领兵，以逼江由之势，得封者三十人。自金城以西，非在欣部，无一人封者。

因为赏罚不公，曹魏军中盛传“苟在中军之例，虽下功必侯；如在州郡，虽功高不封”[10]。不过，因掌有兵权，地方长官的实权却也由此大大膨胀起来，故终三国之末曹魏境内的叛乱也是最多的。至于四镇、四征及其他的杂号将军，均沿袭汉制，都不属于固定的军职，而是对有功将领临时赠封的称号。