平阴地处古东原之阴。东原砥平，又居古济水之阴，故名平阴。平阴之名始见于《左传》。其地望大致属于考古学文化的海岱文化区。

平阴唐虞三代时属兖州；春秋战国为齐地；汉时属兖州部泰山郡；东汉属兖州部济北国。

周王朝建立，分封诸侯，平阴属齐国。

春秋战国时期，平阴仍属齐国。

晋时属兖州部济北国。

南宋时属兖州部济北郡。

后魏时属济北郡。

隋属兖州部济北郡（平阴、卢县并置）。

唐属河南道郓州东平郡。

宋、金时期，平阴县辖旦欢、澄空、傅家岸、滑口、孝德、辛镇、鸾翔、沙沟、宁乡、安宁10个乡镇。

平阴宋属京东西路东平府。北宋政和元年（年）、金大定二十九年（1189年）时，东至奉符县（泰安县），南与宁阳、东平县搭界，西与东阿、茌平县接壤，北靠长清县。县境东西最大距离100公里，南北最大距离90公里，总面积2200平方公里。

金属山东西路东平府。县境承袭自北宋，包括了肥城市境在内。

元属山东西道东平路总管府。元至元十二年（1275年）割辛镇、沙沟等5镇，孝德等4乡归肥城县。

明属山东布政使司东平州。明初编户为16里，后增为19里。清嘉庆十三年（1808年）平阴县分4个乡（北为永宁乡，东为顺德乡，南为安乐乡，西为西宁乡）、26里，辖286个村庄。

清属泰安府。清光绪二十一年（1895年）平阴县分24里，辖328个村庄。其中黄河南12里，辖192个村庄。

平阴县，民国二年属济西道，次年改属东临道，十七年（1928）直属山东省。

1933年平阴县划分5个区、11个镇、181个乡、365个村。其中黄河南3个区，辖8个镇、110个乡。

1939年10月平阴县抗日民主政府成立，下设6个区。

抗日战争期间，民主政府将平阴县划属泰西专区。

1942年12月调整为7个区，平阴县与东阿县东部合为平阿县，隶属晋冀鲁豫边区。

1945年撤平阿县恢复平阴县。

1946年改属泰西专区，1946年11月黄河北的四区（牛角店）、五区（旦镇）整体划出。平阴县民主政府设4个区。

1948年3月平阴县设联防片62个。

1950年5月属泰安专区。

1958年11月平阴县并入东平县，属聊城专署。

1959年10月恢复平阴县，属济南市。

1960年4月属菏泽专区。

1961年2月12日属济南市，同年4月18日由济南复属泰安专区。

1985年3月27日属济南市。