1961年置三山公社，1984年改乡，1990年改镇。

1997年，面积86平方千米，人口10.1万，辖三山、东埔、楼下、横坑、官路、沁前、良棋、嘉儒、北陈、安前、泽朗、后洋、鳌头、鳌峰、上坤、北楼、海瑶、埕边、白鹤、瑟江、江厝、东郭、道北、坑边、塘北、后郑、虎邱、钟厝、任厝、魏庄、前庄、泽岐、前薛、楼前、韩瑶等35个村委会。

据《闽中记》载，宋庆历八年(1048年)，三山属化北里，崇德乡。按共和国成立后建制，其时应包括太平乡的海上里、海下里，崇德乡的平北里，孝义乡的化南里。中华人民共和国成立后，1950年8月，三山称“第七区”；1961年设三山人民公社；1987年12月改称三山乡；1990年10月撤乡建镇。