伊金霍洛为蒙古语，圣主陵园之意，以境内有著名的成吉思汗陵园而得名。

伊金霍洛旗由原扎萨克旗和郡王旗合并而成。扎、郡旗所辖地域历代为北方少数民族的游牧区。

春秋战国时为林胡活动地域。

秦时属上郡之北境。秦始皇三十二年（公元前215年）派大将蒙恬讨伐匈奴，收河南地（河套以南鄂尔多斯地区），当时把关中一带叫秦中，把新收复的河南地叫新秦中。

西汉时，为西河郡、上郡等辖境。西河郡辖境，包括今本旗、准格尔旗、西南和陕西北部，山西北部、中部，黄河两岸地区。红庆河古城即西河郡虎猛县为郡西部都尉驻地。上郡辖境，包括伊旗和准格尔旗南部，陕西省西北部地区。

东汉时，仍沿西汉旧制，南匈奴降汉后，为南匈奴各部驻牧地。

三国魏晋南北朝五湖十六国时。先后有河西鲜卑、羌胡、铁弗匈奴等在此驻牧。后赵、前秦曾置朔方郡统辖鄂尔多斯地区，该旗亦在内。

宋辽金元时，宋淳化年间（994年）为消灭党项族，下令毁废夏州城（指统万城）直到宋宝元年（1038年），党项族李元昊称帝，宝都兴庆府公银川为西夏领域。辽金争而未获。元时，灭西夏后置西夏中心路后复其地属东胜、云内二州及延安路。东胜州设在郡王旗境内（即东胜境），云内州设在神木寨。

明朝时置东胜，明天顺年间废之。

清于顺治六年（1649年）为便于控制陆续归附的蒙古各部落，在鄂尔多斯地区实行盟旗建制的划分，指定牧场界限，当时划分了六个旗组成伊克昭盟。

清乾隆元年（公元1736年）清高宗（弘历）从乌审旗将近族台吉的平民分为十三苏木，划拨土地，组成鄂尔多斯右翼前末旗，即札萨克旗。封定咱拉什为该旗札萨克。从此，伊盟成为7旗。

1914年，归绥改为绥远特别区，札、郡两旗属绥远管辖。

民国16年起，札、郡两旗隶属蒙藏委员会管辖。

民国25年（1936年）2月，绥境蒙政会在归绥成立，札、郡两旗统属绥境蒙政会管辖。

1958年两旗合并为伊金霍洛旗。

1959年1月15日，取旗名“伊金霍洛旗”。旗址驻地设在新街镇，1964年7月1日迁往阿勒腾席热镇。

2000年，伊金霍洛旗辖7个镇、3个苏木、6个乡。