春秋时，鲁国在此设次室邑。

战国时，楚国始设立兰陵县，公元前255年，著名思想家、教育家荀子应楚相春申君所邀任兰陵令近二十年，后居于兰陵著书立说，死后葬于兰陵。

此后历代在兰陵设立郡县，北宋始置兰陵镇，属丞县（今枣庄市峄城区）。

抗日战争前属临沂县，1940年属临沂抗日民主政府，1944年属兰陵县。

1948年复置兰陵县后，属兰陵县横山区。

1953年属苍山县兰陵区，

1957年改区为乡。

1958年建立兰陵公社。

1959年改为人民公社

1975年析建横山公社。

1984年置兰陵镇至今。