刘秀取得两京三辅地区时，全国其他地区还有不少割据势力。其中最主要的有：以睢阳（今河南商丘）为中心，割据今豫东、皖北一带的、与刘秀同年称帝的刘永；以临淄为中心，割据今山东境内的张步；以东海（今山东郯城）为中心，据有今苏北一带的董宪；以庐江（今安徽舒城）为中心，据有今安徽境内的李宪；以黎丘（今湖北宜城）为中心，据有今湖北境内的秦丰；以成都为中心，据有今四川、重庆及贵州、云南部分地区的公孙述；以天水为中心，据有今甘肃境陇西地区的隗嚣；以安定（今甘肃固原）为中心，据有今陕北和内蒙古一带，有匈奴作后台的卢芳；作割据甘肃河西地区的窦融。此外，还有背叛刘秀，以渔阳（今河北密云）为中心，据有今河北北部燕王的彭宠，以及受彭宠影响背叛刘秀而据有涿郡（今河北涿州一带）的张丰。这些割据势力都分布在刘秀统治区的四周并大都与其接壤。如何消灭这些割据势力，不仅要使用武力，更重要的还有一个策略问题，弄得不好，就会四面受敌，顾此失彼，穷于应付，处于被动局面。

刘秀十分清楚，在这些割据势力中，对其威胁最大的莫过于刘永。刘永，是西汉梁孝王的八世孙，其父刘立继承祖业亦为梁王。更始元年（23）刘永被更始帝封为梁王，以睢阳（今河南商丘）为都城。次年，赤眉及刘秀军队攻入关中，刘永见更始政权大势已去，便据国起兵，先后攻下济阳（今山东定陶）、山阳（今山东金乡西）等二十八城，并拉拢东海（今山东郯县西）的董宪，琅琊（今山东诸城东南）的张步，庐江的李宪，连城一个颇大的军事同盟。公元25年六月，当刘秀称帝时，刘永也于同年十一月在睢阳称帝。刘永不仅控制了鲁西、苏北、皖北、豫东广大的地区，专制东方，而且在刘氏皇室中的地位远高于刘秀，这样他的号召力和迷惑性自然要比刘秀大得多，这种情况使刘秀如芒刺在背。刘秀在权衡轻重缓急之后，决定首先对东方（指除洛阳地区以外的广大的关东地区），尤其是刘永用兵。但又不能不令人担心的是：陇、蜀集团乘其东征之机而出兵，使其处于两方受敌的境地。为此，刘秀特地问计于太中大夫来歙。来歙认为刘秀东进，西方最可能趁机出兵来攻的是成都的公孙述，并据此提出了一个联陇制蜀的策略。他认为如说服以复兴汉室为名的隗嚣归附，使陇蜀互相攻伐，既牵制、打击了公孙述，又相对削弱了隗嚣，也解除了用兵东方的后顾之忧，可谓一举三得。刘秀一眼洞悉这是一个高明的策略；他立即表示同意并派他出使陇西。随后，刘秀通过对隗嚣集团的笼络、利诱等手段，终于争取到隗嚣集团的支持。果然，公孙述在多次出兵北进均遭陇汉联军打击后不再轻举妄动了。这样，刘秀集中兵力专力对付东方的后顾之忧便解除了。(www.daowen.com)

于是，刘秀经过近三年的时间，即到建武五年（29）为止，摧毁了刘永的割据政权，铲除了董宪、张步、李宪等东方割据势力。同时，又南征消灭了割据江汉地区的秦丰等势力，并且还平定了河北北部彭宠、张丰等人的叛乱，达到了预期的效果。