北林区周朝以前为肃慎地，战国时期属貉地。

汉时属秽地，后汉三国时期属扶余地。

晋时为寇漫汗国的属地，后魏、北齐属豆莫娄地。

隋时属靺鞨黑水部，唐代为黑水部北栅地。

五代时为契丹国的属地，金时归属上京会宁府管辖，元时为斡赤斤分地，归属合兰府水达达等路，

明时属奴儿干都司统辖的朵颜、卜颜、木兰河等卫。

清初为索伦部，后属黑龙江将军年间属呼兰厅管辖。 1862年（清同治元年），在北团林子设绥化镇，为绥化建制之始。清光绪三十年（1905年）绥化厅升为绥化府，成多禄任第一任知府，隶属绥兰海兵备道。

民国二年（1913年），绥化府改为绥化县。

民国三年（1914年），隶属绥兰道。

民国十七年（1929年）由黑龙江省直辖。

民国二十二年（1934年）划归滨江省管辖。

民国二十七年（1939年），隶属新增设之北安省。

民国三十三年（1945年）抗日战争胜利后，隶属黑龙江省。

民国三十四年（1946年），设置绥东县。

民国三十五年（1947年），绥化、绥东2县归黑嫩省管辖。

1947年绥化县由黑龙江省管辖。

1956年3月，划归绥化专区管辖。

1958年8月，改隶松花江专区。

1965年6月，改由绥化专区管辖。

1982年12月18日，国务院批准，撤销绥化县，设立县级市绥化市，以原绥化县的行政区域为绥化市的行政区域，为绥化地区行政公署驻地。设市后，撤销绥化镇和城郊公社，分设6个街道办事处。

1999年12月28日，撤销绥化地区和县级绥化市，设立地级市绥化市。市人民政府驻新设立的北林区。