北宋初年，沿袭唐及五代建制，济南地区仍为齐州，但治辖范围有所缩小。政和六年（1116），在原齐州置济南府，领五县。

　　“府”的设立源自于唐代。唐代，除在沿边重镇所置的都护府外，内地置府可分为两类：一为京都及行在设之府，如玄宗开元元年（713）置雍州为京兆府、洛州为河南府；一为国内冲要地区所置之总管府，后改称都督府，唐代就曾在济南设置过齐州总管府、齐州都督府。都督府对属州的行政权、监察权、军事权在唐代没有得到充分发展，所以都督府并没有发展成为真正的一级行政机构。这两种形式的府在宋代逐渐合一，成为地方常设机关，州、县二级制逐渐向府、州、县三级制演变。
　　
　　宋代的地方行政区划基本上是两级制，即府、州、军、监为一级，县为一级。府、州、军、监以上的大区“路”为监察区，非行政区。北宋初年，济南仍为齐州。州虽与府同级，但其地位要低于府。直到治平二年（1065），齐州升为“兴德军”，设节度，济南才有了升府的可能。
　　
　　宋代的“军”沿袭五代之制，与唐代的都督府相似，但其辖地及职能则远远小于唐代都督府，分做领州、领县等不同级别。乾德三年（965）收回各军的财权、削弱兵权，太平兴国二年（977）又诏令所有节度使属郡都直属中央，节度使所领只是一州或一府，又以朝臣出任知州、知府，节度体系官职被架空，此时的节度之军更接近于州、府等地方行政单位了。
　　
　　在宋代，每一个州同时还存在一个郡名，没有郡名的州很少。济南不但建置有兴德军领齐州，而且还保留了济南郡的称呼。但宋代的“郡”并没有行政编制，只保留“郡”的虚名，以备王公封号之用。故顾祖禹《二十一史方舆纪要》里写为：“宋因之，亦曰济南郡兴德军节度。”
　　
　　宋政和六年（1116），因齐州属兴德军节制，故齐州可以直接升为济南府。在北宋，国都、陪都，及皇帝诞生、居住、任职过的地方，以及地位重要的州，一般都会改置为府。齐州因是宋英宗赵曙的潜藩之地，最终升为济南府。
　　
　　自1116年北宋设立济南府，至1913年民国政府废除府州建制，济南府存在了近800年。济南置府，确立了元明清以来的行政级别及城市格局，城市由此保持了数百年的繁荣。