清代，亚河地区辖于依兰府， 1911 年（清宣统三年）前已有额和沁（今亚东村）、穷棒子沟（今虎山）、二龙山等村屯。

民国时期， 1918 年勃利县建立，亚河地区辖于勃利县西镇，今镇政府一带分为雅柯琴上屯（今亚东村）、雅柯琴下屯（今亚河村）。

沦陷时期， 1933 年亚河地区划为勃利县第十四甲，辖亚河沁、二龙山、青山、河口等四个村屯。 1937 年保甲制度废除，改行村制。 1938 年亚河地区的虎山屯辖于勃利县城区；青山村辖青山、楸皮沟两屯；西亚河沁辖于古城镇村。 1939 年 6 月林口建县，亚河地区划归林口县管辖。

解放战争时期， 1946 年 5 月五林建县后，亚河地区隶属于五林县第二自治区。 1947 年五林县、林口县分设后划归林口县。同年建立民主政权亚河区政府，为林口县第六区。此时六区有亚西村（今亚河村）、亚东村、兴隆沟村（今合乐村）、朝鲜屯（今永合村）、新发村（今青发村）、新合村（今利民村）、青山村、太平村（今青平村）、大二龙村、河口村、合四村（今新合村）、虎山村、二龙山屯、佛岭等村屯。 1949 年改称亚河地区。

建国后， 1956 年 4 月撤区划镇，分为青山镇、虎山镇、亚河镇等三个镇。 9 月虎山、亚河两镇撤销并入青山镇，治所青山河（今联合）。 1958 年实行人民公社制，建立亚河人民公社，治所亚河，各村称管理区。 1967 年 6 月建立亚河公社革命委员会。 1980 年改为亚河人民公社管理委员会。 1982 年亚河公社辖 18 个生产大队， 50 个生产小队，分居 23 个自然村屯。 1984 年废除人民公社制，实行镇、乡、村体制，亚河公社管理委员会改称亚河乡人民政府。2003年，经黑龙江省民政厅批准（黑民办函〔2003〕75号文件）亚河乡人民政府迁址到青山村青山煤矿，同时更名为青山乡。2010年，经黑龙江省民政厅批准（黑民区〔2010〕80号文件），青山乡撤镇建镇，更名为青山镇。