考古发现，境内旧石器时代晚期的岭儿、刘河遗址及其层位的打制石器和动物化石，都说明远在3万年前，原始人类就在境内繁衍生息，到公元前3000年左右的新石器时代，境内先民已大量从事畜牧和农业生产。境内曾是伏羲、女娲等人文始祖活动过的地方。

禹铸“九鼎”分天下为九州，彭阳境属雍州，世居戎狄部落。

彭阳境内居鬼方、羌方等族落。据《周易》记载：“高宗伐鬼方，三年而克之。”高宗妻妇好统兵攻羌方。《竹书纪年》载：“武乙三十五年，周王季历伐西落鬼戎，俘二十翟王。”《周易》又记，殷商后期，“震用伐鬼方，三年有赏于大国”，说明当地人口增加，经济和军事实力已经十分强大。

《史记·周本纪》裴骃集解引《汲冢纪年》载：“自武王灭殷，以至幽王，凡二百五十七年。”。据《汉书》记载：“安定山谷之间，昆戎旧壤”，戎族的最大一支——昆戎（即犬戎）就生活在彭阳及附近地区。西周时称固原一带为大原之域，至周穆王时，戎狄不贡，发兵西征犬戎，俘五王，迁戎于大原。周夷王时，命虢公率六师伐大原之戎，至于俞泉，获马千匹。周宣王五年（前823）猃狁攻周到泾水北岸，尹吉甫反攻到大原，有兮甲盘铭文记其事。《史记·周本纪》载：“宣王既亡南国之师，乃料民于大原。”就是在周宣王三十九年（前789）在当地调查民数。

《史记·匈奴列传》载：周平王末年“岐、梁山、泾、漆之北有义渠、大荔、乌氏、朐衍之戎”，彭阳境内属义渠戎居住范围。当时地处关中的秦国，自“平王东迁，以岐西地赐秦后，秦地愈大，秦乘势励精图治。”霸西戎，兼并弱小诸侯，仅秦穆公三十年（前623），用由余计攻戎王，“兼国十二，开地千里。”居住于“。

秦厉公三十三年（前444），秦攻义渠，并俘获义渠戎王。秦惠文王更元五年（前320）攻义渠，取郁郅（今甘肃庆阳），更元十一年（前314）再攻义渠，得二十五城，灭乌氏戎，置乌氏县（今泾源县境），此后秦惠文王欲伐楚，曾投文诅楚于朝那湫（今彭阳古城镇境内）。昭襄王三十五年（前272），宣太后诱杀义渠戎王，秦灭义渠国，于其地设北地郡，以今彭阳境内的朝那邑为中心置朝那县（今古城镇），县境长城遗迹即为朝那县北缘。

秦灭六国后，废分封诸侯之制，分全国为36郡，朝那县属北地郡。秦始皇二十七年（前220），始皇巡视北地、陇西途经朝那。始皇三十三年（前215）使将军蒙恬发兵30万北击匈奴，疆域北扩，朝那县相对处于内地，为当地经济发展创造了良好的社会环境。据《史记·货殖列传》记载：“乌氏倮畜牧，及重斥卖。求奇缯物，间献遗戎王。戎王十倍其偿，与之畜，畜至用谷量马牛。秦始皇帝令倮比封君，以时于列臣朝请。”据文献中零散史料印证，今县境新集乡剡堡（焉氏塞）和城阳乡吴堡（乌氏堡）均与乌氏倮有关。

西汉初，地方建置仍沿袭郡县制，郡有郡守、都尉等职，朝那县为北地郡都尉的分治所。汉文帝十四年（前166）冬，匈奴老上单于14万骑入朝那萧关，杀北地郡都尉，虏掠月余而去。汉武帝元鼎三年（前114）析北地郡置安定郡，治高平（今原州区），上隶凉州刺史部，领高平、朝那、乌氏等21县。元鼎五年（前112），武帝“湫渊祠朝那”，史学家司马迁随驾记胜，汉武帝在位曾先后6次北巡安定，往经朝那。西汉末年，王莽篡汉，改国号为新，变更大部分地名和官名，然朝那县依旧。

中国设十二刺史部（州）和一个司隶州，朝那县仍属凉州安定郡。汉安帝永初五年（111），由于北方羌族起义，下诏安定等三郡内徙，乌氏、泾阳、朝那等属县及汉族百姓随安定郡迁至美阳（今陕西武功县境）。顺帝永建四年（129），诏内迁三郡还旧土，“使谒者郭璜促徙者各归旧县，缮城郭，置候驿。”并省泾阳入朝那县，县域范围扩至平凉西北。永和六年（141）东西羌会合，势力大盛，又徙安定郡于扶风（今陕西新平县境）。献帝初平元年（190），因分安定、扶风两郡置新平郡，朝那县随郡迁还。

曹魏恢复《禹贡》九州建置，朝那县属雍州安定郡（治临泾）。此时因高平县（今原州区）处在曹魏政权和羌胡的分界线上，废高平县入朝那县。安定郡的管辖区域也大为缩减，只有高平以南的朝那等6县。

晋分全国“凡十九州，郡国一百七十三”，朝那县仍属雍州安定郡。西晋时北方少数民族不断向南迁移，当地除原有汉、氐、羌族以外，还有匈奴、鲜卑、休屠、白狄、黄石等族，史书所称的“平凉杂胡”就是指朝那县境内的各少数民族。东晋十六国时，朝那县境先后属前赵、后赵、前秦、后秦、夏五个少数民族政权。前赵时，朝那县属雍州安定郡和后置的陇东郡（治泾阳，今平凉安定国镇境），并在高平（今原州区）置朔州牧。后赵沿袭前赵建置。前秦苻坚永兴二年（358）在原朝那县境阳晋川置平凉郡，郡治在今新集乡境，以当地居住的休屠族首领金熙为第一任太守。后秦时，平凉郡属北雍州“岭北五郡”之一。赫连夏时不置郡县，唯以城为主。县境平凉城（今新集乡境）属梁州。夏胜光元年（428），赫连定即位于平凉城，作临时国都近三年时间。胜光二年（429）于“姚秦时之黄石固（今红河乡境）置长城护军”。

北魏、西魏、北周先后统辖今县境。北魏太武帝于神麚三年（430）率军亲征平凉城（今新集乡境），城陷，夏帝赫连定奔上邽（今甘肃天水市），平凉城归魏。神□四年（431），魏迁县境平凉郡治于阴槃（今甘肃平凉市东）。延和三年（434）魏杀县境休屠族首领金崖，休屠族人立金崖从弟金当川为首领，起兵反魏。太延二年（436），魏置高平镇（今原州区），辖县境战国秦长城以北地区，长城以南属泾州陇东郡朝那县。正光五年（524）改高平镇置原州，辖高平、长城二郡。长城郡领黄石、白池二县，郡治驻黄石县，即赫连夏置长城护军故址---黄石固（今红河乡友联村古城址）。黄石县为原朝那县辖境，白池县（县治待考）为原高平镇辖境，仍以今县境长城为界，朝那县废。西魏初沿北魏建置，废帝二年（553）改黄石县为长城县。北周时置原州总管府，领平高（今原州区）、长城二郡。武帝建德元年（572）在阳晋川平凉城（今新集乡境）置平凉县，属长城郡，白池县废。

隋初改南北朝时期的州、郡、县三级制为州、县两级制。文帝开皇二年（582），整顿州县，罢长城郡，长城、平凉二县直属原州。炀帝大业二年（606）改长城县为百泉县。大业三年（607）省并州县，废州复郡，改原州为平凉郡（今原州区），县境范围分属平凉郡的平凉县、百泉县和安定郡（治甘肃泾川北）的湫谷县（治甘肃镇原县）。湫谷县只辖今县境的一小部分（约为孟塬、冯庄、小岔等地）。

唐初分全国为十道，玄宗开元二十一年（733）改为十五道，地方建置为州、县两级。唐高祖武德元年（618）改隋平凉郡为原州（今原州区），属关内道，辖今县境平凉、百泉二县。武德八年（625）百泉县城由阳晋川（红河乡境）迁至茹河川（今县城附近）。唐太宗贞观十年（636）在百泉县设置了兵部直辖的彭阳折冲都尉府。唐玄宗开元五年（717）将原置于阳晋川（今新集乡境）的平凉县治移至泾河南的古塞城（今平凉安国镇境）。唐代宗广德元年（763），吐蕃入大震关，陷原州，县境百泉县大部分地方陷于吐蕃。唐宣宗大中三年（849）收复关陇，原州归治平高（今原州区），百泉县复。唐未黄巢起义后，吐蕃又乘机入寇，百泉县再陷吐蕃被废弃。

五代时彭阳境内大部一直被吐蕃占据，只有今县境东北一小部分区域（也就是隋时湫谷县的辖境范围）属北方各割据政权。即先后属岐（李茂贞的割据政权）、后唐、后晋、后汉、后周的辖地。

宋初因高平、百泉、平凉“三县落蕃”，县境仍只有原五代各政权的辖境范围属北宋秦凤路原州（治今甘肃镇原县）。直到宋太宗至道元年（995）才收复故原州失地。至道三年（997）设镇戎军（今原州区），与原州同属秦凤路，庆历元年分置泾原路后，又同属泾原路。镇戎军辖今县境一县二寨，即彭阳县（今县城）、东山寨（今古城镇）、乾兴寨（今王洼镇梁壕古城址），宋真宗咸平六年（1003）改彭阳县为彭阳城。原州辖今县境三寨，即靖安寨（今小岔乡耳城）、平安寨（今城阳乡转湾）、绥宁寨（今孟塬乡苏喇城）。宋神宗元丰二年（1079）部署边防，将泾原路扩编为十一将，其中第四将驻绥宁寨，第六将驻彭阳城。

金初沿袭辽制，尽升军为州，或升城、堡、寨、镇为县。升镇戎军为镇戎州，隶凤翔路，辖今县境东山县（宋东山寨升）领彭阳、乾兴二堡。原州改属庆原路，仍辖今县境三寨（靖安、绥宁、平安寨）。金哀宗正大四年（1227），蒙古成吉思汗破德顺州（今隆德县境），避署于六盘山，县境属蒙古政权管辖范围。

元世祖忽必烈至元七年（1270）省并州县，撤销县境东山县建置，直属镇原州（今甘肃镇原县）。至元九年（1272）封皇子忙哥刺为安西王，设立王相府于开成（今原州区开城镇），徙民屯耕。至元十年（1273），在开成府设开成路，于金东山县旧址置广安县（今古城镇），至元十五年（1278）升广安县为广安州。元英宗至治三年（1323年）降开成路为开成州。

明太祖洪武二年（1369）又降开成州为开成县，撤销广安州并于开成县，隶属陕西布政司关西道平凉府。明孝宗弘治十五年（1502）升开成县为固原州，并移治原州故址（今原州区），县境属固原州辖地。明代彭阳县境曾为官营畜牧业基地，设灵武监（后改清平监）驻今彭阳县城，领清平、万安（今环县车道乡境）二苑，隶属陕西苑马寺。

清初建置基本沿袭明制，地方行政机构分省、道、府、县四级。康熙四年（1665），固原州上隶的平凉府改属甘肃行省，固原州辖今县境东昌里，永丰里，清平里和万安里。同治十二年（1873），固原州升为甘肃省直隶州，辖县境兴上里、兴下里、东昌里、永丰里及清平监和万安监。

民国初年，改固原直隶州为固原县，属甘肃省泾源道，县以下建置基本沿袭清制。

民国十八年（1929）实行区村制，县境属固原县东区、万安区和南区一部分。

民国二十三年（1934），实行乡镇保甲制，县境有城阳、草庙、万安三乡。

民国二十九年（1940）县境设王洼镇、城阳乡、万安乡、张化乡。

民国三十四年（1945）重设区制，县境属第二区和第三区。

1949年8月，彭阳全境解放，仍为固原县管辖范围。后历经区、乡等建置更换。

1962年，在彭阳村成立彭阳人民公社。

1963年，在县境设立彭阳、王洼两区，辖14个人民公社。

1965年，改为太平公社彭阳大队。

1983年7月29日，经国务院批准，划固原县东部彭阳、王洼两区成立彭阳县。

1985年1月，划草庙乡的何沟、米塬、刘塬、牛湾、王岔5个村新设刘塬乡；3月划彭阳乡的崾岘、李岔、庞阳洼、中庄、丰台5个村和草庙乡玉洼村、城阳乡白岔村新设崾岘乡。同年12月增设白阳、王洼2镇。析王洼乡北洼、路寨、李寨3个行政村归王洼镇管辖。同时，将罗洼乡原60个村民小组合并为31个；城阳乡将原125个村民小组合并为103个。

1986年6月，将彭阳乡的彭阳、海巴2个村合并更名为姚河村，以所属刘沟、赵洼、郑沟、姚河、岭儿、河对面、小河口7个村民小组，归白阳镇管辖。同时，将原彭阳村的斩刀山、刘河、杨树峁3个村民小组，分别划入彭阳乡的南山、任湾、余沟3个村管辖；将冯庄乡雅石沟村窑庄村民小组的石堡梁划归王洼乡王洼村管辖；包山、南梁2个村民小组，分别划归草庙乡的崾岘、包山2个村管辖；石岔乡由李洼村分设李岔村。李岔村辖李岔、前台、墩底、庙峁4个村民小组；李洼政村辖李洼、驮水沟、唐川、王堡、阳洼5个村民小组。

1988年9月，在境外中宁县大战场设立马家梁乡，辖白岗、七敦、马家梁、彭建、沙沟5个行政村。

1993年6月，为设立宝中铁路彭阳火车站，固原行政公署决定将固原县开成乡五里山村划归彭阳县古城乡管辖。

1997年5月，根据区人民政府的批复，撤消古城乡，设置古城镇，撤乡设镇后，其行政区划不变。

2000年1月，彭阳县移民吊庄马家梁乡整体移交中宁县管辖。

2002年3月，县人民政府批准设立白阳镇郑河街社区。全县为19个乡镇156个行政村831个村民小组4个社区。

2003年8月，区划调整后，全县辖9乡3镇156个行政村831个村民小组4个社区。

2014年，自治区政府（宁政函[2014]98号）批复同意彭阳县撤销红河乡，设立红河镇。