商周时期，蒙山地属百越族中西瓯苍梧部族。秦始皇帝三十三年（前214年），蒙山地属桂林郡。汉元鼎六年（前111年），蒙山地属苍梧郡荔浦县。三国吴甘露元年（265年），蒙山地属始安郡。南北朝梁武帝天监元年（502年），设金安县（县治在今蒙山县汉豪乡金垌村）、蒙县（县治在今蒙山县黄村镇黄村村）、常安县（县治在今蒙山县新圩镇双垌荷村），这是蒙山地设县的开始。隋朝开皇十年（590年），废金安、蒙县、常安三县，置隋化县，属桂州始安郡，县治在今县城旧县村。唐武德四年（621年），改隋化县为立山县，同年于立山县治（今旧县村）置荔州。武德五年（622年），改荔州为南恭州，领立山、崇仁（县治在今荔浦县新坪乡中垌）、岭政（县治在今昭平县仙回乡王村）、纯义（县治在今蒙山县新圩镇荷村中荷）、东区（县治在今蒙山县黄村镇黄村老街）五县。州域包括今蒙山县全部及今荔浦县的新坪、杜莫、三河等乡镇，今平乐县大扒乡桂江西岸南部，今昭平县的仙回、文竹北部等地，今藤县的太平、大黎、宁康、东荣等乡镇，今平南的马练，今金秀瑶族自治县的罗香、忠良等乡镇。贞观八年（634年），废南恭州改置蒙州，州治在今黄村镇黄村老街。贞观十二年（638年），崇仁县西北部并入荔浦县，东南部归纯义县，岭政县并入立山县。天宝元年（742年），蒙州改为蒙山郡，乾元元年（758年）复为蒙州，领立山、纯义、东区三县，州治迁至今蒙山县蒙山镇新联村大有厂，属岭南西道桂管。蒙州辖境除崇仁县东北划归荔浦县外，其余与南恭州相同。元和元年（806年），因避宪宗皇帝讳改纯义县为正义县。宋太平兴国元年（976年），改正义县为蒙山县。熙宁五年（1072年），废蒙州，以东区、蒙山两县并入立山县隶昭州。元朝，改立山县为蒙山县，属平乐府。明洪武元年（1368年），改蒙山县为立山县。洪武十八年（1385年）因战乱户损过半，改立山县为立山乡，属荔浦县。不久设古眉巡检司及群峰巡检司，属平乐县。成化十三年（1477年）置永安州，属桂林府。弘治三年（1490年），改永安州为永安长官司。弘治五年（1492年）复为永安州，属平乐府。清朝仍为永安州，属平乐府。1912年改永安州为永安县。1914年，复称蒙山县，先属桂林道，后属平乐区、民团区、平乐行政监督区、平乐行政督察区。解放后仍为蒙山县，先属平乐专区，1958年，平乐专区撤销，蒙山县改属梧州专区（后改称梧州地区）。1997年4月，改隶梧州市辖。

蒙山历史悠久，先民勤劳朴实，留下众多文化遗存。县文物管理所管理全县各级文物保护单位108处，其中全国重点文物保护单位1处（25个点），自治区级文物保护单位2处，县级文物保护单位71处。馆藏文物2697件，其中二级文物23件，三级文物319件。“太平天国永安历史文物陈列馆”被定为自治区爱国主义教育基地和广西第一批廉政教育基地。全县确定非物质文化遗产资源项目7个，类别920项，其中传统手工艺155项、传统戏剧3项、传统医药23项、民间音乐121项、民俗314项。(www.daowen.com)

蒙山人杰地灵，历史上出过众多的名人。如任过广西省委第一书记、北京农业大学党委书记兼校长的陈漫远，壮族现代历史上第一个为民主革命牺牲的爱国主义知识分子、清华大学学生韦杰三，在清代抗法战争“镇南关大捷”中立下赫赫战功的广西提督、广西边防督办苏元春，清代抗法战功卓著、官至广西防军统领的马盛治，三亚“南天一柱”石刻题字者，被誉为清末清官的崖州知州范云梯，广西著名烈士、解放军粤桂湘边纵队北风团团长张镇道，抗击日机英勇献身的空军飞行员莫更，新派武侠小说开山鼻祖梁羽生等。