东山自有史书记载起，属地经夏、商、周、秦、汉、三国、晋、梁、隋、唐、后梁、后唐、宋、元、明、清、民国直至中华人民共和国更迭频繁，且变化较大。因其地理位置的重要性，故多设治所。

秦始皇二十六年（公元前221年），秦国建置吴县，隶属会稽郡（直到东汉初）。东山为吴县辖地。

秦二世胡亥元年（公元前209年）10月，刘邦杀英布，立刘濞为吴王，王故荆国地，都广陵，吴县改属吴国，东山随为吴国境地。

秦二世二年（公元前208年），淮南王英布并吞荆王地

西汉四年（公元前203年），刘邦废楚王，封刘贾为荆王，都于吴。东山属荆王地。西汉五年（公元前202年），项羽兵败，韩信为楚王，吴县为韩信封地，东山属韩信封地内。

东汉永建四年（129年），析会稽郡钱塘江以西部分，置吴郡。吴郡郡治设于吴县，吴县辖东山隶吴郡。

晋太康元年、吴天纪四年（280年）三月，晋灭东吴，东山随吴郡之吴县为晋境。

隋初废郡，地方行政建置改为州、县两级。开皇九年，陈后主祯明三年（589年），隋灭陈，废吴郡，改吴州为苏州，吴县隶苏州，东山隶吴县。

唐贞观元年（627年），全国分为十道（道为监察区），苏州属江南道，辖吴县东山。

武周万岁通天元年（696年），析吴县地置长洲县，吴、长两县隶苏州，东山属吴县。

唐开元四年（716年），吴县升为望县，开元二十一年，分江南道为东、西两道，苏州隶江南东道，道治设于吴。东山属苏州之吴县。

后梁开平元年（907年），钱镠封为吴越王，苏州属吴越国，东山属吴越国苏州之吴县。

宋开宝八年（975年），中吴军后改平江军，继改为苏州，属江南道。宋太平兴国三年（978年），吴越国归宋，苏州隶江南道。东山属苏州之吴县。

宋淳化五年（994年），改道为路（浙东路、浙西路），苏州属浙西路。宋政和三年（1113年），苏州升为平江府，仍属浙西路，吴县为平江府首县。东山从吴县划出隶属浙西路湖州之乌程县，南宋沿之。

元代按宋制，元至元十三年（1276年），分全国为11省，州改为路。时东山属江淮行中书省湖州路乌程县。后改江淮行中书省为江浙行中书省，东山仍属湖州之乌程。

明洪武五年（1372年），东山从乌程划归苏州府吴县。

清康熙六年（1667年）设江苏省，苏州府隶江苏省。东山仍属苏州府之吴县。

清宣统三年九月十五日（1911年11月5日），苏州独立，在苏州成立中华民国苏军都督府，裁苏州府及长洲、吴县、元和三县，设苏州，立民政长署。时东山仍隶太湖厅，从属苏州。同年十月十三日（12月3日）改苏军都督府为中华民国军政府江苏都督府。苏州隶江苏都督府，东山仍隶太湖厅，从属苏州。

民国元年（1912年）1月，江苏都督府颁令废府、州，并县、厅。苏州府废，并同城三县称吴县。是时，民政长署仍称苏州民政长署，至7月才改为吴县知事公署。至8月改称吴县民政长署。废太湖、靖湖二厅，设太湖县，旋易名为洞庭县，设民政长，东山隶之。7月，省议会裁撤洞庭县，其地归属吴县。吴县设28市、乡。东山分设东后山乡、东前山乡，分别于8月、12月先后成立。分设乡董、乡佐及乡议会，民国三年夏（1914年）改称乡行政委员。

民国十七年（1928年）春，合东前山乡、东后山乡为东山乡，设行政局。12月10日，吴县城区划出建苏州市。市、县分治，东山仍属吴县。

民国十八年（1929年）8月，改东山乡为吴县第十七区。

民国二十三年（1934年）6月，吴县调整为十三区，改东山第十七区为第十二区。

民国二十九年（1940年）3月，改乡为区，称东山区。12月复称第十二区。

1949年4月27日，吴县解放。吴县划出城区建苏州市，市、县分治。5月1日，吴县人民政府成立，隶于苏南行政区专员公署。7月，为配合剿匪，成立太湖区行政办事处。

1951年6月，太湖区行政办事处撤销，东山区仍划归吴县。

1952年7月，复建苏南人民行政公署太湖办事处，辖东山、西山两区和太湖中岛屿及水域。

1953年5月，太湖办事处改建为震泽县人民政府，东山隶震泽县。

1959年4月，撤销震泽县，并入吴县，东山隶吴县。

1968年3月26日，苏州专员公署称苏州专区革命委员会，1971年4月13日，又改为苏州地区革命委员会。

1978年7月，再改为苏州地区行政公署，东山隶属吴县关系不变。

1983年3月1日，实行市管县新体制，撤销苏州地区行政公署，吴县隶属苏州市，东山隶吴县从属之。

1995年7月12日，吴县撤县设市，成立吴县市，东山隶属吴县市。

2001年3月1日，吴县市撤市设区，成立苏州市吴中区、相城区，东山隶属苏州市吴中区。