秦时属薛郡，后属郯郡朐县。

汉属东海郡朐县。

魏属东海国朐县。

晋属东海郡朐县。

南北朝时属东海郡东海县及灌云县。

隋、唐、宋属东海县。

元时属朐山县。

明清时属海州。

民国元年(1912)属灌云县，民国三十四年（1945）成立连云市。

解放初属新海连特区。

1952年改为连云区，辖1镇1乡、4个街道办事处。

1958年改为连云港办事处。

1969年10月改为连云区。

1985年12月区驻地从连云港镇迁到墟沟镇。赣榆县管辖的青口盐场、灌云县管辖的江苏省东辛农场和海军92323部队农副业基地划归连云港市连云区管辖。

1996年，连云区面积94平方千米，辖1个街道、3个镇、4个乡：陶庵街道、墟沟镇、连云港镇、连岛镇、前三岛乡、高公岛乡、宿城乡、云山乡。区政府驻墟沟镇。

2001年10月1日，经国务院批准，撤销云台区，将云台区的朝阳镇、徐圩镇、板桥镇和中云街道划归连云区管辖。

2004年，连云区辖4个街道、4个镇、4个乡。连岛镇面积7.67平方千米。板桥镇面积6.12平方千米。徐圩镇面积131.09平方千米。朝阳镇面积24.46平方千米。云山乡面积16.47平方千米。宿城乡面积18.00平方千米。高公岛乡面积8.07平方千米。

2005年，将新浦区猴嘴街道及其辖区范围内的海域和滩涂划归连云区管辖。

2006年，撤销云山乡，设立云山街道；撤销连岛镇，设立连岛街道。将连云区板桥镇与徐圩镇合并设立板桥街道办事处。

2009年末，连云区总面积535平方千米。辖7个街道、1个镇、3个乡：墟沟街道、连云街道、云山街道、板桥街道、连岛街道、中云街道、猴嘴街道、朝阳镇、宿城乡、高公岛乡、前三岛乡。

2010年，将赣榆县管辖的青口盐场、灌云县管辖的江苏省东辛农场和海军92323部队农副业基地划归连云港市连云区管辖。行政区划调整后，连云区行政区域面积766.44平方千米。