蓝山历史悠久，建县已有2200多年的历史。竹管寺横江砠出土的石斧、石凿、石箭和陶片等文物证明，早在夏商前，县境已有先民在此生息繁衍，乃虞舜南巡过化之地。

春秋战国时期，县境属楚。汉高祖五年（前202年）建县，名南平，隶属桂阳郡。

隋炀帝大业三年（607）年，并入临武县。

唐高祖武德四年（621）复置南平县，属郴州。唐玄宗天宝元年（742），以境内“山岭重叠，荟蔚苍萃，浮空如蓝”而更名为蓝山，隶属桂阳郡。宋真宗景德三年（1007），属桂阳监。

元属桂阳路。明洪武元年（1368），属郴州。二年，属桂阳府；九年，属衡州府桂阳州。

清属桂阳州。

民国3年（1914年），属衡阳道；民国11年直属湖南省；民国26年，湖南省分为9个行政督察区，蓝山属第八行政督察区。

中华人民共和国成立后，蓝山先后隶属于郴州专区、湘南行政公署、郴州专区、零陵专区、零陵地区、永州市。

2015年9月，《湖南省国土资源厅推进省直管县经济体制改革试点实施方案》出台。根据《方案》，蓝山县成为湖南国土资源省直管县经济体制改革试点县(市)。