古代青州的含义和现在意义上的并不一样。据记载，古时的九州分别指：冀州、兖州、青州、徐州、扬州、荆州、梁州、雍州、豫州。其中的青州大体包括河北、山东等地，因此从这个意义上讲，济南是属于古青州无疑。

研究表明，济南地区最早的国家出现在城子崖附近，被称为谭国。西周分封后，济南地区归属了齐国，但谭国仍在。在春秋时期，齐桓公以“不敬”之名，灭掉了谭国，齐国把济南改名为泺邑、历下邑。秦时，济南归属济北郡，称历下邑。汉初时，济南的称呼第一次出现，得名是因为地处四渎之一济水之南。汉初时还设立了济南国，都在东平陵城（今章丘区龙山镇）。直到西晋永嘉年间，济南的郡治才从东平陵移至历城。因此，济南民间把这两段历史称为“先有平陵城，后有济南府”、“先有历城县，后有济南府”。

隋唐三朝，济南改名为齐州，宋金时升格为济南府，元朝被称为济南路，隶属于中书省。明朝时的德王在济南开府，全省的政治中心也由青州迁移到济南，济南此后就成为山东的首府。清朝仍称为济南府，民国时济南被称为济南道。