合山历史悠久。秦属桂林郡地。汉介于郁林郡之中留、潭中、定周、广郁、领方等县。南朝介于马平郡新林县及领方郡、安成郡之间。隋复为郁林郡领方、安成等县地。唐置纡羁縻思刚州，旧治今市区西北，属桂州。同时直辖东区、吉陵、宾安、南出、都邦、纡质等。其中，合山境内属东区县与州同治，宾安县旧治今红水河畔，其余均旧治今属合山、忻城之间。五代因之。宋庆历三年（1043年），纡羁縻思刚县废入忻城县。今市属地大多属天禧四年（1020年）由羁縻思刚州改置之迁江县，及至元、明、清和民国年间。1950年1月25日隶属武鸣专区。1951年1月25日隶属南宁专区，8月10日隶属宾阳专区。

1952年6月，中共宾阳专区委员会口头宣布迁江县（包括合山在内）的5个区划归宾阳专区上林县。11月，迁江县撤销并于来宾县，今合山市域属地因之属来宾县辖。1981年6月29日，经国务院批准，设立（县级）合山市。以合山名市（该山旧称合岭，曾因采煤而先后为多家煤矿公司以“合山”冠名，并为1962年合山矿务局沿用）。划辖原来宾县北泗公社为合山市的行政区域，市政府治里兰，委托柳州地区行署代管。1984年，合山市下设2个乡、1个镇，29个村委会、5个居委会。辖区内驻有区直两大企业（合山煤业有限公司、大唐桂冠合山火力发电公司）。2002年9月29日，撤销柳州地区，设立来宾市，合山市改由来宾市代管。2019年，全市共辖岭南、北泗、河里3个镇、29个村民委员会、5个社居居民委员会、167个自然屯、516个村民小组，全市总人口13.48万人。人口密度为每平方公里385人，人口自然增长率2.34‰。

在365.72平方公里的桂中大地上，壮、汉、苗、瑶等多个世居民族共同创造了合山灿烂的历史，推动了社会的发展。近代以来，合山人民面临着争取民族独立和人民解放，实现国家富强和人民幸福的两项任务。但是，封建专制的腐朽统治和帝国主义的疯狂侵略，是合山社会落后和人民蒙受苦难的根源。面对深重的危机，为了争取国家独立和人民解放，合山各族人民进行了长期而英勇的斗争。(www.daowen.com)

1949年6月26日至7月3日，迁江县地下工作会议在官田召开，地下党负责人覃耀庭（化名方结民）主持会议。时在迁江县表证校任教的知识分子华能宗（河里乡洛满村人）要求进步，参加了这次会议。会议决定：在党的统一领导下，成立“迁江解放同志会”，由韦业莽任主席、吴寿尧任副主席。在良塘、七洞地区逐步建立人民民主政权，扩大人民武装。巩固老区，积极发展新区。委派华能宗到合山的河里、北泗、溯河三乡组建游击中队和建立洛满、河里地下联络站。在解放战争中，地下联络站游击队员及民兵配合中国人民解放军截击、追歼南逃的国民党军，为合山解放作出了应有贡献。

1949年12月1日，合山革命老区解放。1950年3月，中共北泗区委员会成立，隶属中共迁江县委员会所辖，书记王守文、副书记蓝建成。1950年1月初，中国人民解放军军事接管合山煤矿。3月，建立中共合山煤矿公司支部委员会，隶属中共宾阳地区委员会，支部书记李育筹，副书记李九希。合山革命老区历史翻开了崭新的一页。