岱庙创建于汉代

，为泰山信仰的祖庭，有“秦即作畴”、“汉亦起宫”之载。汉武帝时期（前140-前87年），汉廷于博县境内建泰山庙（又名岱宗庙，后世习称东岳庙，即今岱庙的前身）。武帝元封二年（前109年）四月，武帝巡东莱，过祀泰山。于泰山庙中植柏千株，夹庙之两阶，是为岱庙汉柏之由来。

后赵建武十三年（347年），后赵永贵侯张余向泰山庙献金马一匹，高二尺余，形制甚精，供奉于庙中神器库。

东魏兴和三年（541年），兖州刺史李仲璇重修岱岳祠，并“虔修岱像（泰山神像）”。此为岳庙设立泰山神像之始。

隋开皇十五年（595年），文帝行巡兖州，遂次岱岳祭天“饰神庙展宫悬于庭”。开皇二十年（600年）十二月，文帝下诏保护泰山等神造像，称：“五岳四镇，节宣云雨，利益兆人，故建庙立祀，以时恭敬。敢有毁坏偷盗岳镇海渎神形者，以不道论。”

唐武德七年（624年），唐廷立制：东岳泰山祭于兖州，年行一祭，以立春举行。武周时期（690-705年），武则天命将岱岳庙（岱庙）由汉址升元观前（今岱宗坊西南）移建于今址。开元十三年（725年）十一月，玄宗封泰山，禅社首山。日本、新罗、大食等数十国皆遣使从封。礼成后诏封泰山神为天齐王，命拓修泰山庙。开元二十年（732年），泰山神进封王号后，其信仰较前更盛。天宝十一年（752年），朝廷遣朝议郎、行掖令孙惠仙诸人修整岱岳庙告成，立题名碑柱于庙庭。唐时，于岱岳庙植槐，今岱庙唐槐院古槐，传为唐植。唐代（618-907年），随着泰山神影响的增大，各地渐有行祠（于泰山以外地域奉祀泰山神的庙宇）之建，元和之前，兖州、鱼台等县已有泰山府君祠，其他关内、河东各道亦多建有东岳庙宇。

宋太祖开宝三年（970年），遣太子右赞善大夫袁仁甫等重修岳渎祠庙，此为东岳庙入宋后首次重修。宋真宗大中祥符元年（1008年）七月，创建天贶殿。十月，诏封泰山神为“仁圣天齐王”。大中祥符六年（1013年）六月，真宗诏翰林学士晁迥撰《大宋东岳天齐仁圣帝碑铭》，记加封泰山神帝号之事，立石于岳庙。宣和六年（1124年），宋徽宗嗣位后，屡降诏命，增葺岳庙，至是竣工，称“凡为殿、寝、堂、阁、门、亭、库、馆、楼、观、廊、庑，合八百一十有三楹。”诏翰林学士宇文粹中撰《宣和重修泰岳庙碑》。同期，民间报赛活动的频繁举行，泰山庙会逐渐形成，尤以三月二十八日之东岳庙会为盛。

金世宗大定十八年（1178年），东岳庙发生火灾，惟存门墙，堂室荡然。次年金廷敕令知泰安军事徐伟等加以重修。金宣宗贞祐四年（1216年），岳庙因遭战火，殿宇尽焚，仅存延禧与诚明堂。

元世祖中统四年（1263年）元廷以岳渎诸庙多毁于金末兵火，命掌教宗师诚明真人张志敬分别修复。张志敬委泰山道士张志纯提举东岳庙事务。至元三年（1266年）四月，元世祖诏命重修东岳庙，构建仁安殿，以奉祀泰山神。元惠宗至正四年（1344年）九月，惠宗颁旨，宣谕保护东岳庙产。元末，战事频繁，东岳庙被毁。

明太祖洪武三年（1370年）六月，明太祖以“岳渎之灵受命于上帝，非国家封号所可加”，诏去泰山神封号，改称东岳泰山之神，立碑岳庙诏告天下。明成祖永乐元年（1403年）十二月，下诏修泰安州东岳庙。明世宗嘉靖元年（1522年），山东参政吕经改泰安东岳庙前草参亭为遥参亭。遥参亭原为岱庙之第一门，明代奉祀元君像于其中，遂与岱庙分隔。嘉靖二十六年（1547年）十二月，岱庙起火，正殿、门廊俱焚，仅存寝宫及炳灵、延禧二殿。古树、碑刻也多被毁。此后朝议重修，聚材鸠工，历时十余年始开工重建。

清康熙七年（1668年）六月十七日夜，泰安发生强烈地震，东岳庙配天门、三灵侯殿、大殿等墙垣坍塌。康熙十二年（1673年）南明延平郡王郑经在东宁省城（今台湾台南）创建东岳庙，奉祀泰山神，自此泰山信仰传入台湾。康熙十六年（1677年）五月，重修泰安东岳庙竣工。此前东岳庙建筑多因康熙七年地震而毁，山东布政使施天裔委张所存督工营缮，全部工程历时十年。殿宇门墙皆予重修，并于正阳门前创建岱庙石坊一座。同期，在岱庙施工期间，泰安民间画工刘志学等人应召在峻极殿（即今岱庙大殿）绘制《泰山神启跸回銮图》壁画。康熙二十四年（1685年），泰安官府于岱庙建御墨亭，以庋圣祖登岱手书。乾隆五十五年（1790年）三月，高宗东巡至泰安，谒岱庙登岱祀碧霞祠。高宗前后十次巡幸泰安岱庙，共题泰山诗百七十余首。

1949年7月，开始修复岱庙。

1953年，整修岱庙天贶殿、东御座等主要建筑8处。

1957年，翻修岱庙后寝宫、东灵侯殿、太尉殿、配天门等；汉柏院新建假山，并将石碑镶嵌在该院东墙。

1984年5月1日 泰山岱庙天贶殿东岳大帝神像重塑完工，塑像高4.4米。原塑像毁于文革。同年，复建岱庙厚载门、正阳门。厚载门建筑面积165平方米。厚载门两侧恢复城墙96.5米，并新建仿古建筑100平方米。翻修御碑亭，续建廊房15间。

1986年2月1日，泰安市博物馆成立，馆址设在岱庙。

1987年，被列入世界文化与自然遗产清单。

2004年，修复岱庙北、东城墙部分，至此岱庙城墙完善工程，基本完成。

2006年，完成历代石雕、汉画像石、历代碑刻、岱庙神轴及配天门临展厅等五个展室的改造。在钟楼和西神门之间，复建廊房11间，面积339平方米。西花园进行改造工程。

2007年，建立了岱庙网站，涵盖了岱庙景区建设和博物馆管理的公共和研究信息。进行厚载门生态停车场改造。完成雨花道院建设工程、三灵侯、太尉殿两个殿的彩画和塑像。

2008年，完成了委重点项目汉柏亭和东御座过廊的维修，通过了全国文明风景旅游区复核。

2009年，泰山东岳庙会在岱庙隆重举行。举办“天贶殿、碧霞祠千年庆典”大型活动。进行东花园凉棚抢救性翻修、东御座垂花门及两座仪门翻修工程。