黄帝，滕因境内泉水腾涌而得名。

周朝，周灭商后，周武王封其弟滕错叔于滕，乃称滕国。

秦朝，统一六国后，废分封置郡县，于今滕境置滕县。

汉朝，高祖撤小邾置蕃县，汉武帝时改滕县为公邱县。

三国，魏沿袭秦制

西晋，沿袭汉制。

隋朝，滕县升为滕郡，郡治滕县，不久又将滕郡改为滕县。

唐朝，贞观年间，唐太宗李世民之弟李元婴被封于滕州故为滕王，后李元婴被贬南昌。

宋朝，兼置滕阳军。

金朝，大定二十二年（1182年），金置滕阳州，大定二十四年（1184年）改为滕州（滕州名字最早的起源），辖滕、沛、邹等县，属山东西路。

元朝，沿袭金朝。

明朝，滕州改为滕县，滕县先后隶属济宁府、兖州府。

清朝，沿袭明制，属兖州府。

新中国，1949年10月，新中国成立后设置滕县专区，专属驻地滕县（相当于今地级市）。滕县专区辖滕县、华山县、临城县、邹县、凫山县、铜北县、平邑县、滋阳县、丰县、峄县、曲阜县、白彦县、沛县、济宁等16个县市。

1953年8月，为统一管理微山湖（南四湖），国务院批准设立微山县，微山县及微山湖水域从滕县专区划出。

1953年9月，滕县专区改济宁专区，专署驻地从滕县移驻济宁。随后滕县专区干部学校（今济宁学院）也搬迁到济宁办学。

1979年1月，滕县改属枣庄（枣庄原为峄县枣庄镇，1960年峄县迁至枣庄镇升为县级市，1961年枣庄升为山东省辖市）。

1983年11月，枣庄将滕县东部的店子、冯卯、辛庄、徐庄、辛召、山亭、桑村、城头8个公社划归枣庄成立山亭区。

1988年3月，经国务院批准，撤销滕县，建立滕州市。

2000年至今，滕州辖4个街道和17个镇。