遂平县历史渊源流长，西周为房子国；

春秋改吴房；

汉置吴房、灈阳二县；

北魏改遂宁县；

唐元和十二年（817年），李愬雪夜入蔡州，平定吴元济叛乱，唐宪宗敕改县名为遂平至今；

1948年2月，中国共产党领导的遂平县爱国民主政府成立；

1949年后，遂平县隶属河南省信阳专区。

1958年11月13日，毛泽东主席曾亲临遂平视察，在遂平历史上留下了难忘一页。

1965年增设驻马店专区，遂平县由信阳专区划出，改属河南省驻马店专区；

1975年8月，驻马店地区连降特大暴雨，汝河上游板桥水库垮坝，造成“75·8”洪水灾害。

2000年8月驻马店撤区设市，遂平县隶属驻马店市。