晋怀帝永嘉年　间（307～313），济南郡治由东平陵移至历城，历城成为地区行政中心。自此以后，济南城的政治地位迅速抬升，先后成为郡、州的治所，历城县则成为附郭县。
　　
　　南北朝时期，济南成为军事争夺的焦点地区之一，先后被后赵、东晋、前燕、前秦、后燕、南燕所统治。混乱的政局，反而促成了济南城的扩张。义熙六年（410）南燕被东晋灭，济南地区重新归东晋统治。东晋元熙二年（420），刘宋代晋。刘宋元嘉九年（432），分青州的一部分新置冀州，以历城为治所。刘宋孝建二年（455），青州的治所也移至历城。北魏皇兴二年（468），慕容白曜攻下历城，济南地区归北魏统治，是为齐州，治历城，济南城成为齐州的州城。随着政治地位的提升，人口的增多，济南城逐渐扩大成为拥有三道城墙的三重城。
　　
　　那时的济南，是东、西两座城池共存于一郭内的城市格局。一座是建于秦的古历下城，为历城县治所，位于今济南古城的西南部。历下城的范围，据《太平寰宇记》记载的舜井、四望湖、泺水等相对固定的地理坐标推测，其城西不超过今高都司巷一线，北至在今省府东街、省府西街附近，南至不超过今黑虎泉西路，东至不超过今天地坛街一线。与主城历下城遥相呼应的，是建于晋永嘉年间的东城，位于今济南古城的东南部分，是历下城的卫城。两座城池之外还有一道外墙，把两座城以及现在的大明湖水域包括在内，形成郛郭。这道郛郭的范围，从北魏《水经注》的相关记载中大致可知，西郭在历下城西、泺水东，北郭大概相当于北宋齐州城北墙。由此可以推测，当时东郭、南郭也不会超过宋代济南城的东墙、南墙，整个郛郭大致相当于宋以后的齐州城。
　　
　　至于先有东城再后有外郭，或是先有外郭后有东城，还是东城、外郭同时建筑，早期文献没有这方面的记载，所以明清以来的志书在这个问题上一直是含糊的。
　　
　　东城大致筑于晋怀帝永嘉年间，即郡治由东平陵移历城之际。郛郭大致形成于南朝刘宋元嘉九年（432）济南郡侨治冀州后，当时历下城内同时有历城县、济南郡、冀州三署。刘宋孝武帝孝建三年（456）至大明八年（464），青州帖治历城，又有过短暂的青州（实土州）、冀州（侨州）双头州郡的情况存在。