府作为一级地方行政单位，经历了较长的演变过程。在魏晋时期，州刺史常常带军职，兼任将军。州有州的衙门和幕僚，将军另外有将军的衙门和幕僚。将军的衙门，就叫作“府”。唐朝的时候，朝廷在首都、陪都以及皇帝登基前任职的州设置府，例如京兆府、河南府、太原府等等。府的长官，称作府尹。到了宋朝，府的设置逐渐多了起来，府隶属于路（路是介于中央与州之间的一级行政区划）。明清两朝，府固定为省、县之间的一级行政单位。除了首都、陪都所在地的府长官仍然称府尹外，一般的府长官，都称作“知府”，意思是“知（即主持）某府事”。