说到历山，济南城内外有两处历山，这是极少见的。一座历山为城南历山，即济南古城外的千佛山，这是被普遍认同的一座历山。另一座为城东历山，大致位于明代济南府城内东部、秦汉历下城外以东，即今运署街一带，山体为一礓石。
　　
　　济南城附近缘何有两座历山？
　　
　　古城附近，在商周时期就已经有人居住、活动了。战国时期，人类活动增多，形成城邑，逐渐将今运署街附近的高埠称为历山（以下称“城东历山”）。这时期的筑城活动，均是从城东取土，山坡逐渐变低，后世的舜井、唐《封氏闻见记》所记载的“历山孤石”很可能也是这时候显露出来的。在秦代，城东历山仅作为地名存在，与舜并无关联，既没有“舜耕历山”的附会，也不存在“舜井”的称呼，更没有营建舜祠。
　　
　　西汉置历城县，冶铁兴盛，城市人口随之增加。人们逐渐将在城内举目可见的千佛山一带也称为历山，历山的名字开始分化。西汉后期，随着对“舜耕历山”实地的考索，济南的历山逐渐与舜迹联系起来。东汉后，历山的概念被分为两个，一个是地名意义的城东历山，一个是历史意义的舜耕历山。西晋，在城东历山上建筑东城及随后构筑外郭的活动，都在城东大量取土，导致城东历山进一步变矮。
　　
　　魏晋南北朝时期，官方祭祀舜的活动一直持续。千佛山一带为历山的说法也因舜祠被坐实了，山附近的大穴被附会为舜井。这个时期，城东的历山只是一个单纯的地名，附近尚无舜井、舜庙，山脚处的历水源头只有城隍庙性质的历祠。
　　
　　隋唐时期，随着祭祀行为的减少，济南城外的舜祠在中唐之后逐渐废弃，城南历山被称为千佛山就是在这之后。人们对历山的认识又逐渐回归到城东历山附近，附会出了舜井，舜井附近的孤石也被称为历山。而山上的古铁锁及飞来峰的传说与舜无关，是基于海神传说来镇水的，显然是未被称为舜井之前就已经存在的。唐末宋初，人们在城东历山附近的舜井旁建起了舜庙，自北宋、金、元、明、清一直是官方祭祀的地方。
　　
　　每个历史阶段的历山，无不带有那个时代的一些特征，是各种因素相互作用的结果。两千年来，正是由于官方祭祀行为才有了舜祠的迁移，由于舜祠的变化，才导致了两座历山的渐变交替，舜耕历山的传说，则让历山变得更加错综复杂。