明洪武元年（1368），于济南府置山东等处行中书省。九年（1376），改行省为承宣布政使司，山东布政使司、都指挥使司及按察使司均驻济南城，济南成为全省政治、经济、军事、文化中心。关于济南成为山东省会的原因，翰林侍讲学士危素在写于洪武三年（1370）的《济南府治记》一文中总结道：“济南之为郡，岱宗当其前，鹊华经其后，泉流奔涌，灌溉阡陌，民庶繁夥，舟车辐辏，实乃要会之地，故置行中书省以尊藩服。”
　　
　　洪武初年，全国各府县普遍建造坚固的包砖城墙，济南府城的城墙就是在这个建城热潮中重新修筑的。城墙，是人类社会发展到一定阶段的产物，由墙体和其他辅助军事设施构成。中国古代城市的城墙从结构和功能分，主要由墙体、女墙、垛口、城楼、角楼、城门和瓮城等部分构成，城墙外围还有护城河。
　　
　　宋元时期的济南府城并非砖墙，而是夯筑的土城。明代的济南城墙，是以宋元以来旧有土城墙为基础，其外甃以砖石，“以石为趾，砖为肤，土为骨”，城高池深，敌楼高耸。济南府城南北长约1.8千米；东西最长处约1.8千米，南部东西长度最短处约1.4千米。由于济南地势高低及城周水流速度不同，护城河水及山洪不断冲刷土基，致使济南府城四面城墙的高度并不一致。崇祯十二年（1639）为抵抗清兵入侵，又将城墙增高三尺，为三丈五尺。据清代道光年间实测的高度，东、南两面城高三丈一尺（约合9.92米）至四丈（约合12.8米）不等，西、北两面城高二丈四尺（约合7.68米）至三丈（约合9.6米）不等。
　　
　　明代济南府城辟建有四处城门：西门为泺源门、南门为舜田门（后名历山门）、东门称齐川门、北门为会波门（又写作汇波门）。这四座城门中，东门、西门、南门是常年开放的，而北门为水门，每年春天开启城门，冬季则重新封闭。清光绪三十年（1904），为了便于交通，又在城墙上新开四处城门，西为乾健门（俗称新西门），西南为坤顺门（俗称新南门），东为巽利门（俗称新东门），东北为艮吉门（俗称新北门）。这样一来，济南府城一共有八座城门。新开的四座城门由于是便于通行而开辟的便门，与东、南、西、北四座正式城门不同，并没有城楼、瓮城等配套的城防建筑。