考古发现，双鸭山地区7000年已经有文明迹象。在该市发现的“炮台山遗址群”被鉴定是满族先祖挹娄人所建。凤林古城、炮台山遗址被认定为黑龙江历史上最早的挹娄人的都城。

清代宣统二年（1910年）间，双鸭山地域仍是一片人迹罕至的荒山野岭，当时，被人称为“山里”。

1914年当地农民在岭东、岭西等从事副业生产时发现了露头煤，以后逐渐成为人口聚集地。

1930年前，民国批核矿商开采时多称“七星砬子煤矿”、“马蹄河煤矿”、“安邦河流域”。

1931年东北沦陷，双鸭山市成为日本人的淘金场所，伪满时期多称“富锦炭田”。

从1931到1941年，日本侵略者在双鸭山市大肆抢夺金矿，开采煤田，从此逐渐成为人口聚集地。

1943年成立“富锦炭田事务所”，后改称“富锦矿业所”，此间也有以上述机构名称泛指双鸭山产煤区域的。

1947年7月1日，双鸭山矿务局正式成立。

1954年成立矿区政府。双鸭山矿务局被划为中直企业。析集贤县双鸭山地区建双鸭山矿区，由黑龙江直辖。

1956年，经过国务院批准，双鸭山市正式成立。

1958年划归合江专区。

1966年升为地级市。

1987年集贤县划入。国务院1991年2月2日批准将佳木斯市的宝清县、友谊县划归双鸭山市。

国务院1994年7月5日批准将佳木斯市的饶河县划归双鸭山市管辖。

1999年，因为城市建设远远落后于经济发展，市区开始大规模城市扩建，先后兴建新兴广场、日月广场、文化广场、人民广场、步行街、双鸭山经济技术开发区等一系列标志性建筑。

2006年是双鸭山市建市50周年。