上犹县建县于公元952年（南唐保大十年）。

《禹贡》：分天下为九州，上犹处扬州地域。春秋属吴、越。战国时期属楚地。

公元前221年（秦始皇二十六年）创郡县制，上犹县地域为南野县地，属九江郡。

公元前203年（汉高祖四年）改九江郡为淮南国。高祖六年，分淮南地置豫章郡。公元195年（献帝兴平二年）分豫章郡置庐陵郡，上犹属庐陵郡南野县。

公元236年（三国吴嘉禾五年）分庐陵郡立南部都尉，分南野县置南安县，上犹为南部都尉南安县城。

公元280年（晋武帝太康元年）改南安县为南康县。太康三年废南部都尉立南康郡，上犹属南康郡南康县地。

420年（南朝宋武帝永初元年）改南康郡为南康国，上犹属南康国南康县地。479年（齐高帝建元元年）改南康国为南康郡，490年（永明八年）又改南康郡为南康国。502年（梁武帝天监元年）再改南康国为南康郡。557年（陈武帝永定元年）改南康县为赣县，上犹属南康郡赣县。

589年（隋文帝开皇九年）废南康郡置洪州总管府虔州，上犹仍属赣县。605年（炀帝大业元年）复置南康郡，赣县复称南康县，上犹属南康县。

627年（唐太宗贞观元年）置道，上犹为江南道虔州南康县地。905年（昭宗天祐二年）邑人卢光稠知虔州，议建上犹场。

911年（后梁乾化元年）析南康县西南地置上犹场。因境内有大山，状似犹蹲，高耸于场治北面，古称大犹（猷）山（即油石嶂），山下有犹水（即油石河）。治所建于大犹山之南，犹水口上侧，故名上犹。952年（南唐保大十年）改场置上犹县，沿用场名。

976年（宋太宗太平兴国元年），上犹县属江南西路虔州。990年（淳化元年）于大余置南安军，上犹县属之。1212年（宁宗嘉定五年），改上犹县为南安县。《南安府志》载：“己已匹袍洞陈癸反，西路通判孙，咎犹字有反义，至壬申改上犹县为南安县”。

1277年（至元十四年）改南安军为南安路总管府，辖大余、南康、南安。1279年（至元十六年），改南安县为永清县。次年，复名上犹县，属南安路总管府。

1368年（明太祖洪武元年）改南安路为南安府，上犹属南安府，隶江西行中书省。清承明制，上犹仍属南安府，隶江西布政使司。

1912年（民国元年）冬废府，上犹县直隶江西省政府。

1914年（民国3年），江西分四道，分领81个县，上犹属赣南道。

1926年（民国15年）废道，省直辖各县。

1931年（民国20年），隶陆海空军司令部南昌行营党政委员会。

1932年（民国21年），全省划分为13个行政属赣南专区。

1935年（民国24年），全省缩为8个行政区，上犹属第四行政区。

第二次国内革命战争时期，上犹属湘赣省苏维埃政府。

1930年5月，成立上犹县

革命委员会。

1931年5月，成立上犹县临时革命委员会，属江西省苏维埃政府，同年10月，建立上犹县苏维埃政府，属苏维埃湘赣省。

1932年10月，上犹县苏区失陷，苏维埃政府停止活动。

1949年8月16日上犹解放，成立上犹县人民政府，隶属赣州分区督察专员公署。

1951年，属赣州专区。

1954年，属赣南行政公署。

1955年3月，上犹县人民政府改为上犹县人民委员会。

1964年，属赣州专区。

1968年4月，上犹县人民委员会改为上犹县革命委员会，属赣州专区革命委员会。

1980年12月复改为上犹县人民政府，属赣州地区行政公署。

1999年7月撤销赣州地区，设立赣州市，上犹县隶属赣州人民政府。