遂昌县三仁畲族乡好川文化遗址的考古发掘，是浙西南地区首次发现的新石器时代文化遗址，表明在4200年前。遂昌夏、商、西周时属越，春秋属姑蔑，战国越亡属楚；秦统一中国后，分郡县两级，属会稽郡太末县；西汉分三级制，属扬州刺史部会稽郡太末县。

东汉献帝建安二十三年（218年）孙权分太末县南部地始置遂昌县；《宋书.州郡志》载：“孙权赤乌二年（239年）分太末时更名曰平昌。”清光绪《遂昌县志》卷一载：“平昌县以去十五里两山前后平叠如昌字，故名”。晋武帝太康元年（280年）更名复称遂昌。东汉末年，其时地广，约含今遂昌县和龙泉、庆元县大部，金华县（原汤溪县）部分地。

南朝属东扬州东阳郡或扬州东阳郡，变动频繁。隋开皇九年（589年）至大业元年（605年）撤县，属东扬州括州和东扬州永嘉郡。光绪《浙江通志》卷四载：“唐武德时复置寻省入松阳”。《旧唐书》载：“唐武德八年（625年）撤县入松阳”遂昌自隋开皇九年至唐武德的三十多年，据《大明一统志》，《读史方舆纪要》，皆谓属处州。唐景云二年（711年）遂昌县复置，属江南道括州，开元二十一年（733年）至贞元三年（787年）先后属江南东道括州，江南东道缙云郡、浙江东道括州、浙江西道处州、浙江东道处州。五代吴越国地，属处州。宋时属两浙路处州或浙东路处州。元时先后属江淮行省处州路，浙江行中书省处州府。明时属浙江承宣布政使司处州府。

清光绪《遂昌县志》卷一载，明成化八年（1472年）析八、九两都与金华、兰溪、龙游县部分地置汤溪县。清时先后属处州府，浙江军政府处州军政分府。

1912年属浙江省都督府，1914年属浙江省长公署瓯海道。

1927年至1949年5月属浙江省第九（丽水）、第六（丽水）第三（衢州）行政督察区。

1949年5月8日，遂昌县城解放，属浙江省第三专区（1949年10月改称衢州专区），1955年3月改属金华专区。

1958年10月松阳县并入。

1963年5月改属丽水专区。

1982年1月恢复松阳县，同属丽水地区（今丽水市）。