金山历史悠久，以有金山寺而得名，距今已有1000多年，一是因附近山头光秃，秋草枯黄如金色，二是盐业生产产生的煤渣火红似金色，故名金山。金山在宋朝建有十三层中空白塔，塔可以内上，塔前有庙，塔下有井，1958年拆塔时发现塔下有一块金砖。隋初为大牢县，唐改为应灵县，明末清初为清流乡、金山乡。

1962年建立金山镇和金山乡，1987年撤销乡建制，金山乡并入金山镇，1992年撤乡建镇，盐林乡、金燕乡并入金山镇，成五通桥区重要的农产品集散中心。