刘秀是马上打天下的皇帝，对于军事力量的重要性的了解就不待而言了。为了集中军权，将军权牢牢掌握在自己手中，刘秀便取消地方的常备军。

西汉时期的军队，包括中央军和地方军两部分。中央军主要是南北军，地方军主要是各郡的轻车、骑士、楼船、材官等常备罕。建武六年（30），刘秀下诏“罢郡国都尉官”，即撤销了内地地方军的统帅——郡都尉。随后，刘秀又废除了内地各郡的地方常备军队，也取消了郡内每年征兵训练时的郡试。这样一来，一旦民众仓促起义闹事，其战斗力低下则便于镇压，这正是刘秀废除地方武装力量的意图之一。刘秀废除地方武装力量还有另一目的，王莽在位时，东郡太守翟义就是在检阅地方武装时利用兵力集中起来的机会发动反抗的；后来刘秀和李通等谋划起兵时，也曾预定要借检阅地方武装的时机发动起义，这些记忆犹新的教训，使得刘秀不得不把地方武装看作皇权的潜在威胁而加以取消，仅剩能维持地方治安的武装而已。

在取消地方武装部队的同时，刘秀加紧了对中央军队的控制。东汉的中央军主要有四支，首都有南、北军两支。南军又分两部分，分别由光禄勋（或郎中令）统率和卫尉统辖，负责宫城、宫殿内外的守卫。北军由中侯统辖，下设五营，每营设校尉一人，负责守卫京师。南、北军力量基本相等，具有一定的互相牵制的作用。另外两支，一为黎阳营，驻黎阳（今河南浚县东），以谒者监军，主守黄河以北，为首都洛阳的北面屏障。另一支为雍营，驻雍（今陕西凤翔南）主卫关中三辅，作为首都的西部屏障。东汉安帝时，又增渔阳营，驻渔阳（今北京怀柔），以防御鲜卑。此外，还在边远少数民族地区设将军、校尉率兵驻守，以维护多民族国家的一统化。(www.daowen.com)

由于“三公”之一的太尉没有统兵的实权，在东汉朝廷上，最高的统兵之官为大将军、骠骑将军、车骑将军、卫将军。但这四官并不常设，只在战时才临时任命，这样不会造成日久坐大，尾大不掉的局面。因此，他们不会对朝廷形成威胁。最高统率权则直属皇帝一人掌握。刘秀就是通过这种加强中央军队、取消内地军队的策略，彻底改变了先秦以来军队地方众、中央少的局面。一方面用以防止地方分裂和动乱，另一方面则是为了实行军权权力的一体化。