山口有人居住的历史可上溯至商代，春秋时期属鲁国。

相传西汉立村，1735年—1910年，山口属泰安县兴仁乡。镇境，1912年属泰安县兴仁区。

1930年属第四区。

1941年属泰北行署黄山区。

1945年属泰安县山口区。

1948年属第三区，后又改为山口区。

1958年建山口公社。

1960年祝阳公社并入。

1962年恢复祝阳公社。

1984年6月改为山口办事处。

1985年5月改为山口镇。镇以机关驻地村得名。