夏、商时期，属扬州。西周武王克纣后，封功臣偃姓子爵于此，立为舒国，后分立舒庸、舒鸠、舒蓼、舒龙、舒鲍、舒龚，史称“群舒”。舒城县是群舒地域之一部分。春秋战国时期，周祚势衰，诸侯争霸，“群舒”势弱，周定王六年（前601）楚庄王灭舒蓼。周简王十二年（前574），楚共王灭舒庸，周灵王二十四年（前548），楚

康王命令尹屈建率师灭舒鸠。至周敬王十二年（前508），前后百余年间，群舒先后为楚所灭。秦时，属九江郡，汉高祖四年（前203），置舒县。翌年，别置龙舒县。汉明帝永平五年（62）封楚王英舅子许昌为龙舒侯，领舒县、龙舒县，改称“龙舒侯国”。三国时期（220—280），初属魏、后属吴，晋时属扬州庐江郡。唐开元二十三年（735），置舒城县，属淮南道庐州。北宋时属淮南西路庐州。元时，初属江淮行省，至元十三年（1276），属庐州路，至元二十八年（1291），属河南江北行省。明洪武元年（1368），属直隶中书省庐州府，永乐十八年（1420），属南直隶庐州府。清顺治二年（1645）属江南省庐州府，顺治十八年（1661），属江南左布政使司。康熙六年（1667），属安徽省庐州府。

民国3年（1914），属安徽省安庆道，民国21年，安徽省开始分设行政区，后又改为行政督察区，舒城县属第三区（专署驻六安县）。

1949年1月22日，全县解放，县、区、乡、村分别成立民主政府，是年5月1日，改为人民政府，属皖北行署六安专区，1952～1985年底，属安徽省六安专（地）区。2000年至今，属安徽省六安市。