民国二年定县名为乌苏，系汉语称谓。乌苏为“库尔喀喇乌苏”的简称。“库尔喀喇乌苏”系蒙古语。“库尔”意为雪，有库尔河流经。“喀喇乌苏”意为黑河或清泉之河。又因清代曾在城北10千米的西湖设官衙，维吾尔语称乌苏为“西湖”。

乌苏市

在西汉、三国时期为车师之西境。唐显庆二年（657年）后隶属昆陵都护府，南宋属西辽，元属别失八里行尚书省，明属瓦剌，明末清初为蒙古准噶尔部游牧地。清乾隆二十二年（1757年）设官职率兵驻防此地，乾隆二十六年（1761年）设库尔喀喇乌苏办事大臣，三十七年（1772年）修筑庆绥城，仍名库尔喀喇乌苏，设领队大臣，并设县丞。四十九年筑新城于东北，而城仍旧称，光绪十二年（1886年）置库尔喀喇乌苏直隶厅，隶迪化府。

民国二年（1913年）改为乌苏县，属镇迪道。

民国六年（1917年）三月划属塔城道。后隶属塔城行政区、塔城专区。

1968年后属塔城地区。

1996年7月10日，国务院批准撤撤销乌苏县，设立乌苏市。

？年，乌苏市辖9个镇、9个乡：乌苏镇、白杨沟镇、哈图布呼镇、皇宫镇、车排子镇、甘河子镇、百泉镇、古尔图镇、西湖镇、八十四户乡、四棵树镇、九间楼乡、夹河子乡、吉尔格勒特郭楞蒙古族乡、塔布勒合特蒙古族乡、石桥乡、头台乡、西大沟乡。

2000年，乌苏市辖5个街道、10个镇、7个乡。　根据第五次人口普查数据：全市总人口100359人，其中：新市区街道 10889人、南苑街道 13423人、西城区街道 15395人、虹桥街道 6197人、奎河街道 4478人、白杨沟镇 4077人、哈图布呼镇 15050人、皇宫镇 11569人、车排子镇 5830人、甘河子镇 9606人、百泉镇 7596人、四棵树镇 11008人、古尔图镇 9882人、西湖镇 7751人、西大沟镇 8374人、八十四户乡 13775人、夹河子乡 3938人、九间楼乡 6240人、石桥乡 5325人、头台乡 4213人、吉尔格勒特郭愣蒙古族乡 5186人、塔布勒合特蒙古族乡 1939人、甘家湖牧场虚拟乡 2950人、巴音沟牧场虚拟乡 2829人、赛力克提牧场虚拟乡 2124人、乌苏监狱虚拟乡 715人。