彭山因彭祖山而得名。

战国时期，为蜀国之地。

秦灭蜀后，设置郡县，置武阳县，属蜀郡。

南朝梁武帝天监四年（505年），分武阳县地置灵石县。大同十年（544年），改灵石县为犍为县，属江阳郡。

西魏废帝元钦二年（553年），撤犍为县置隆山县，属江州。

唐玄宗先天元年（712年），改名彭山县，属眉州。

明太祖洪武十年（1377年），彭山县并入眉县。洪武十三年（1380年），眉县升为眉州，十一月复置彭山县，属眉州。

清康熙元年（1662年），彭山县并入眉州。雍正六年复（1728年），设彭山县，仍隶属眉州，

中华民国时期（1912—1949），彭山县先后隶属上川南道、建昌道、第四行政督察区。

1950年1月，彭山属川西区眉山专区管辖。

1953年初，眉山专区撤销，彭山县划归乐山专区管辖。

1959年4月，彭山县并入眉山县。

1950年9月，仁寿县属的府河乡（毛家渡、广积场）、华阳县属的顺河乡（半边街）划给彭山县管辖，彭山县黄丰乡的七、八两保划归仁寿。

1951年7月，眉山县属的黄丰乡划入彭山，置新丰乡。

1953年，彭山青龙乡属董河坝至叶店子部分地区调整给新津县。

1997年8月行政区划调整，彭山县划归眉山地区管辖。

2000年12月眉山撤地改市，彭山县规划眉山市管辖。

2005年4月30日，彭山将原永丰乡所属行政区域并入江口镇；将原江渎乡所属行政区域并入净皇乡，净皇乡更名为皇陵乡。将原牧马乡所属行政区域并入府河乡，府河乡更名为武阳乡。将原邓庙乡所属行政区域并入谢家镇。将原歧山乡所属行政区域并入义和乡。

2005年9月23日，彭山县人民政府机关办公驻地由凤鸣镇西街98号迁至凤鸣镇小西街56号。

2007年，撤销灵石镇，所属行政区域划归凤鸣镇管辖。新建牧马镇，辖原武阳乡的莲花、天宫、武阳、白鹤、官厅5个村和毛家渡社区所属行政区域。将皇陵乡的泥湾、茯苓、江渎3个村，江口镇的顺江、五一2个村所属行政区域划归武阳乡管辖。调整后，武阳乡辖大塘、泉水、泥湾、茯苓、顺江、五一7个村所属行政区域，调整后，皇陵乡辖天库、永泉、象耳、联络、正华、武陵6个村和半边街社区所属行政区域，同时皇陵乡更名为锦江乡；江口镇辖凯旋、远景、茶场、土桥、石龙、永利、双合、白蜡、双江9个村和将台社区所属行政区域。

2014年10月20日，国务院关于同意四川省调整眉山市部分行政区划的批复（国函（2014）140号）撤销彭山县，设立眉山市彭山区，以原彭山县的行政区域为彭山区的行政区域，彭山区人民政府驻凤鸣镇西街98号。