三国吴永安三年（260年），分会稽郡置建安郡（治所今建瓯），析建安县之校乡始设将乐县，隶建安郡。因水来自将溪，东越王乐野宫在是，又以邑在将溪之阳，土沃民乐，故得名将乐。西晋至南北朝，均属建安郡。

晋隆安三年（399年）析西乡置绥安县，义熙元年（405年）改绥城县。

隋开皇十二年（592年），并于邵武县，隶抚州（治所今江西临川）。

唐武德五年（622年），从邵武县析出，复置将乐县，改隶建州（治所今建瓯）。贞观三年（629年），县东南2乡并于建安，西北3乡并于邵武。垂拱四年（688年），复置将乐县，属建州。元和三年（808年），再分并于建安、邵武县，为两县之地。元和五年，再复将乐县，属建州。

五代十国闽天德元年（943年），王延政据建州，建国号殷，将乐县为其所辖。闽天德三年，将乐升县为州，以县城西郊有山形如覆钟，取名镛州，又称西镛州。是年八月，南唐灭闽，将乐为南唐所辖。南唐保大四年（946年），将乐废州为县，仍属建州。

宋太平兴国四年（979年），改剑州为南剑州（治所今南平市），将乐自建州改隶福建路南剑州。

元至元十三年（1276年），元兵占领邵武军，改军为路，将乐属邵武路。至元十五年（1278年），南剑州升为南剑路。大德六年（1302年），改南剑路为延平路，将乐均属之。

明洪武元年（1368年），改延平路为延平府，将乐属之所辖。

清袭明制，将乐仍属延平府。

民国元年（1912年），废府、州，实行省、道、县三级地方政制，将乐属北路道（治所今南平市）。

民国3年，属建安道（治所今南平市）。

民国14年，废道改省、县两级制，将乐直属福建省。

民国20年，复道制，将乐仍属北路道。

民国22年11月，十九路军发动“福建事变”，在福州成立中华共和国人民革命政府，将福建划分为4省2市，将乐属延建省。

民国23年，事变失败。

民国23年2月，中国工农红军解放将乐县城，成立县苏维埃政府，直属闽赣省苏维埃政府。同年7月，国民政府实行督察专员制，福建划为10个行政督察区，将乐属第九行政督察区（治所今邵武市）。

民国24年10月，福建改划为7个行政督察区，将乐改属第二行政督察区（治所今南平市）。

1950年1月31日，将乐解放，属福建省第二专区（专员公署驻南平）。是年4月后，第二专区先后改称南平专区、南平地区，将乐均属之。

1970年7月，改属三明地区（专员公署驻三明）。

1983年5月，三明地区改为省辖市，实行市管县体制，将乐为三明市辖县至今。