青岛守备军作为日本在青岛实行殖民统治的军事机构，承担着军队指挥管理和占领区行政管理双重职责，甚至承担着铁路、码头、城市基础设施管理运营等专门业务，故其组织演变较为复杂。

青岛守备军的军事组织架构和部队人员构成的复杂性决定了其行政管理效能必然低下；同时，日本陆军对山东配备哪些部队及多少兵力均没有成熟方案，还面临着如何管理各师团抽调部队、如何协调国内主管机构众多业务要求等诸多问题。为缓解矛盾，协调各方关系，日本陆军对青岛守备军作战部队的构成、指挥体系等多次进行调整；直到1917年“改制”后，青岛守备军组织架构和职责才基本稳定下来。

建军之初，青岛守备军对作战部队采取直接指挥和直属管理的模式，但因事务过多过滥过细，加之部队轮替带来的管理负担，遂于1915年3月改由陆军第10师团所辖步兵第8旅团（驻日本姬路市）负责指挥该旅团所属第10联队、第40联队^[3]，接替胶济铁路沿线占领地警备任务，实际上是采取在青岛守备军司令部之下设旅团级司令部指挥作战部队的指挥体系和部队管理架构，以减轻青岛守备军司令部军事指挥、管理负担，加强对远离青岛市区的胶济铁路沿线地区日军的指挥和管理。

日本此时抽调一个建制旅团派驻胶澳及胶济铁路占领区，既有减少青岛守备军军事指挥压力的考虑，还有在中日“二十一条”谈判陷入僵局之际给北京政府施加军事压力的用意。但是，整建制抽调旅团的做法给日本陆军其他师团的指挥与管理带来新的问题，也存在青岛守备军司令部与其他师团所辖旅团关系不协调的矛盾。因此，1916年9月步兵第8旅团离开青岛归建后，日本陆军遂改为由相关师团组建青岛守备步兵队司令部（旅团级）的办法，统一指挥、管理各师团抽调的步兵大队，以提高混编作战部队的指挥、管理效率。

至于作战部队规模，1915年中日《民四条约》签署后日本即对青岛守备军部队予以缩编。

1915年8月3日，日本参谋本部印发《青岛守备军整理要领》^[4]，规定青岛守备军改由以下部队组成：（1）青岛守备军司令部；（2）步兵第8旅团；（3）青岛守备军电信队；（4）青岛守备军兵器厂；（5）青岛守备军病院；（6）山东铁道管理部。

此时日军对青岛守备军实行缩编有相应的历史背景：一是经过一段时间观察，日本政府认定其在胶澳及胶济铁路占领区已经站稳脚跟，占领区不存在来自中国或其他国家的军事威胁，在青岛没有实施要塞防御之必要；二是1915年5月25日中日《民四条约》业已签订，日本在山东采取军事作战行动的必要性和可能性大为降低；三是减少山东派驻军队的军费支出。因此，日本陆军决定青岛守备军不再配属独立骑兵中队、独立野炮兵中队、独立重炮兵中队、独立工兵队等“特科队”。前两支部队于8月19日、后两支部队于8月21日离开青岛返回日本。同时，以山东铁道管理部代替原临时铁道联队。

此外，日本陆军指挥机关各部门、各兵种主管机构在管理青岛守备军专业事务上也存在矛盾冲突问题。1916年5月26日，日本陆军以军令陆乙第7号发布新的《青岛守备军勤务令》，规定：“青岛守备军司令官直隶天皇，统帅部下诸部队，担任占领地的警戒及防备，统辖其民政，且统监经理、卫生事宜。”“军司令官统辖并保护山东铁道及其附属矿山相关事项。”此次调整对青岛守备军的权责做了进一步的明确规定，以强化其领导地位，具体内容为：（1）规定青岛守备军司令官统帅在胶澳及胶济铁路占领区的全部陆军部队而不仅仅是担任守备的陆军部队，部分部队原规定仅为青岛守备军司令官监督的业务全部改为由其统辖，目的在于解决部分部队因原有隶属关系与青岛守备军指挥体制不协调的弊端；（2）鉴于青岛守备军要塞防御任务业已放弃，《勤务令》取消了青岛守备军司令部参谋掌管的要塞防御职责；（3）由于废除军兽医部，取消了副官部所管兽医勤务；（4）废除军司令部所附宪兵，设立直属于青岛守备军司令部的青岛守备军宪兵队，旨在加强对胶澳及胶济铁路占领区的治安管制；（5）在军通讯部长勤务事项中增加管理电气业务的规定；（6）由军理事掌管占领地内的民事裁判相关事项；（7）将青岛军政署从青岛守备军司令部分离出去，设置直属于青岛守备军司令部的青岛军政署；（8）废除《山东铁道管理部勤务令》，相关职责在《青岛守备军勤务令》中一并予以规定。

为此，日本陆军参谋本部于1916年7月14日以军令陆甲第3号制发《青岛守备军编成交代要领》^[5]，规定青岛守备军所属部队为：（1）青岛守备军司令部；（2）青岛守备队（设青岛守备队司令部，辖青岛守备步兵4个大队）；（3）青岛守备军电信部；（4）青岛守备军宪兵队；（5）青岛守备军兵器厂；（6）青岛守备军病院；（7）山东铁道管理部。

以上各部队，除青岛守备队外，均由现有部队充任。青岛守备队的步兵大队依然由各师团部队分别派出，编为青岛守备步兵第1—4大队；各大队所属中队为4个，分别编为第1—4中队。(www.daowen.com)

1916年7月28日，青岛守备军以军参谋长森冈守成的名义向日本陆军省次官提出建议，宣称青岛守备军除担负青岛守备任务外，还兼有实施军政、铁道管理等任务，“青岛守备军”的名称与之不一致，当前新设“青岛守备队”名称后，守备军司令官、守备队司令官不易区分，要求将“军的名称变更为以青岛军或其他适当的名称”。^[6]据此意见，青岛守备队被改称“青岛守备步兵队”，这从一个侧面反映了日军内部矛盾与管理混乱问题。

此时，青岛守备军人员编制调整为：青岛守备军司令部编制84人，其中包括大将或中将司令官1名、作为幕僚的军参谋部和军副官部合计27人、军通讯部17人、军经理部28人、军军医部5名、军理事6名；设青岛守备步兵队司令部，管理作战部队，司令部编制6名，其中包括少将司令官1名；青岛守备步兵队司令部下辖第1—4大队共4个步兵大队，每大队下辖第1—4中队共4个中队，计645名，其中大队部17名，每个中队175名，合计2580名；青岛宪兵队编制414名，队部14名，下辖7个分队400名；青岛电信队102名；青岛陆军兵器厂14名；青岛陆军医院46人；青岛军政署178名；山东铁道管理部404名。以上共有3828名。

按照以上体制，青岛守备军步兵部队均由设在坊子的青岛守备队司令部直接管理和指挥。

1916年9月，第8旅团轮换回国，日本陆军第1师团组建的青岛守备队司令部接替其防务。该司令部及守备步兵第2、3大队于9月5日抵达青岛，第1、4大队于7日抵达青岛，9日接替青岛及胶济铁路沿线防务。

青岛守备队（后改为青岛守备步兵队）历任司令为：向西兵库少将（1918年始任）、高田丰树少将（1920年始任）、松井兵三郎少将（1921年始任）、高田丰树少将（1922年始任）。

1916年9月25日，依据改订的《山东铁道警备规程》，胶澳占领地内的铁道警备业务由步兵第8旅团移交青岛军政长官。^[7]

为进一步解决青岛守备军管理效率低下特别是对行政事务管理不得要领的问题，1917年日本陆军再次对青岛守备军编成方式及部队规模进行大规模调整。除设立民政部专门负责民政管理外，另在青岛守备军司令部下设陆军部，专管陆军部队的内部事务。

1917年10月1日，日本陆军参谋本部制定《青岛守备军陆军诸部队编成轮换要领》^[8]，规定：青岛守备军司令部由司令官和陆军部组成；陆军部由幕僚（含参谋部和副官部）、法官部、经理部、军医部组成。同时，将青岛守备队司令部改称“青岛守备步兵队司令部”，青岛守备队改称“青岛守备步兵队”（辖4个步兵大队，每大队641人），青岛守备军兵器场改称“青岛陆军兵器场”，青岛守备军医院改称“青岛陆军医院”，青岛军政署、山东铁道管理部、军通信部改为新设青岛守备军民政部管理。