据史料记载,新石器时代,白山境内就有人类活动,秦公元前222年(秦王政二十五年),此
地属辽东外徼。
西汉初属幽州刺史部辽东郡。
东汉属高句丽。
三国初属高句丽。公元242年(正始三年),魏幽州刺史毋丘俭讨高句丽,本地复属玄菟郡。晋为高句丽地。公元343年(康帝建元元年),本地属燕(前燕)。公元370年(晋海西公太和五年)前秦灭前燕,本地归前秦。公元404年(后燕昭文帝光始四年)高句丽复侵辽东,本地归高句丽。
南北朝属高句丽。
隋属高丽。
唐初属高句丽。公元668年(高宗总章元年)唐灭高丽,本地属安东都护府哥勿州都护府。公元713年(玄宗开元元年)本地属渤海国。并在今白山市临江所在地置神鹿县,为神州治所。公元873年(懿宗咸通十四年,渤海大玄锡三年)置鸭绿江府于神鹿,为西京附郭,领神州(今临江市)、桓州(今集安县)、丰州(今抚松县)、正州(今通化市)。
五代初归渤海。公元926年,辽灭渤海,改建东丹国。其后,
渤海移民以今白山市为中心,建立定安国。
宋初属定安国。公元982年(宋太宗太平兴国七年,辽景乾亨四年)并入辽。
辽属东京道。在今临江置渌州驻鸭绿江军节度使。领弘闻、神乡二县(今白山市)、桓州(今集安县)、正州(今通化市)、慕州(今柳河县)。
金为东京路婆娑府地。
元属辽阳行中书省沈阳路辖地。
明属奴儿干都司建州卫。公元1591年(神宗 万历十九年)为努尔哈赤所并。
清初属吉林副都统辖区。
1902年清政府依盛京将军增祺、奉天府尹玉恒奏请,划通化县东部地方设治猫耳山,置县名临江,属吉林副都统辖区兴京厅。设八道江巡检属通化县(1908年划归临江县)。
1907年,(光绪三十三年)废除将军制,东北实行行省制本地属奉天省,仍辖于兴京厅。
1909年5月(宣统元年),置林长海等处分巡兵备道于临江县。领长白、海龙两府,临江县、通化县、集安县。
中华民国初仍沿袭清朝建制。
1913年(民国二年)奉天省设东、西、南、北、中五路,白山地区属奉天省东路道。
1915年改八道江分防巡检为八道江佐治局。
1934年(东北沦陷时期)改属伪安东省。
1937年划归伪通化省。
1945年祖国光复后,划归安东省通化专署所辖。
1946年划归辽宁省。
中华人民共和国初属辽东省。
1954年8月20日划归吉林省,隶属通化地区。
1959年,3月23日吉林省委批准撤消临江县设置浑江市。
1960年1月7日国务院批准浑江市府驻八道江镇,隶属通化地区。
1985年2月4日,国务院批复撤销通化地区,实行市管县体制,通化地区分治。通化地区下辖通化、浑江两县级市升格为地级市。
1986年9月8日,国务院批准设立浑江市八道江区、临江区、三岔子区。
1992年9月1日,民政部批复(民行批[1992]95号)同意撤销浑江市临江区,设立临江县。
1993年11月28日,民政部批复(民行批[1993]237号)同意撤销临江县,设立临江市。
1994年1月31日,国务院(国函[1994]8号)批复同意将浑江市更名为白山市。4月,浑江市正式更名为白山市,辖临江市、靖宇县、抚松县、长白县、三岔子区和八道江区,市委市政府驻八道江区。
1995年12月30日,国务院批准撤销白山市三岔子区,设立江源县。
2010年2月22日,民政部下发了“关于吉林省白山市八道江区更名为浑江区的批复”(民函[2010]40号),经国务院批准,吉林省白山市八道江区更名为浑江区。
截至2010年7月,白山市下辖2个市辖区、2个县、1个自治县,代管1个县级市:浑江区、江源区、临江市、靖宇县、抚松县、长白朝鲜族自治县,市人民政府驻浑江区。