确山，很早就有远古先民在浅山和平原地带生息繁衍。乐山东打石山，有旧石器时代人类遗址；曹庄、朱庄、橡林等地，有新石器时代文化遗址。迨至西周，县境北部为道国，东南一隅属江国。春秋属楚，秦属颍川郡。

西汉高帝四年（公元前203年），置朗陵县，治所在今溱头河北岸的任店，属汝南郡。公元前25年，县西北境建安昌侯国；公元前7年，东北境又建阳安侯国。东汉省安昌入朗陵。西晋时，复于西南置安昌县。南北朝时，随形势消长时南时北，县名、疆域与归属变更频繁。公元421年，南朝刘宋于县境建初安郡。528年、547年，南梁两次进据淮北，废初安郡，侨治陈州。北魏复占后，废州仍置郡县，改称安昌县。556年，北齐废郡县，侨治荆州。北周时，改为威州。

隋初，废威州改为安昌县。开皇三年（583年），迁县治于今处。开皇十八年（598年）改安昌县为朗山县。唐朝初年，改为北朗州；贞观元年（627年），废州恢复朗山县，属豫州。宝应元年（762年），因避代宗李豫讳，豫州改为蔡州，朗山县属蔡州，五代相沿未变。

北宋大中祥符五年（1012年），因避讳，大朗山改为乐山，朗山县改为确山县。金时属蔡州镇南军，元至元三十年（1294年），蔡州改为汝宁，确山县属汝宁府。

明朝初年，撤确山县并入汝阳县。洪武十四年（1382年）恢复确山县，属汝宁府。成化十一年（1475年），改隶于信阳州。弘治二年（1489年），复归汝宁府。清朝沿袭未变。

1913年（民国2年）废府设南汝光道，后改为汝阳道，道治在信阳，确山属其辖。

1931年（民国20年），改属河南省第八行政专区，专治在汝南。

1949年，豫南各县全部解放。

1949年4月，人民政权在驻马店设立确山专署，1949年8月，迁改为信阳专署。

1965年，信、驻分治，确山县属驻马店地区。

2001年3月，驻马店撤地建市后归属驻马店市管辖。