1897年11月14日，德国借口 “巨野教案”——两名德国传教士在山东巨野被杀，武力占领青岛。次年3月6日，德国强迫清政府签订了中德 《胶澳租界条约》，攫取了胶济铁路的修筑和经营权、沿线矿产开采权和在山东全省的投资优先权。 为了尽快修筑胶济铁路，1899年6月14日，德国14家银行共同出资5400万马克在柏林组成了专门负责铁路修筑和日后进行事务管理的山东铁路公司。9月23日，胶济铁路正式开工。 胶济铁路修筑期间 （1899年至1904年），津浦铁路还在酝酿之中（1908年才开工）。
当时，德国有一个如意算盘：今后与津浦铁路并轨。早在胶济铁路济南站选址的时候，他们就把这座车站作为今后两路共用的车站来考虑，因此购买了一处长1850米、宽300米的土地。 1904年6月1日，胶济铁路全线通车。当时的济南站规模较小，但济南商埠区独此一家，无出其右。 1908年，由中国主导的津浦铁路开始修筑。让德方没想到的是，中方计划新建一座独立的济南站。因担心 “两路共用”车站的计划落空，德方多次与中方谈判，但根本谈不拢。 德方认为，如果 “共用车站成为问题的话，不仅对我们的铁路 （指胶济铁路），也对国有铁路 （指津浦铁路）是一个很大的错误”。按照他们的估计，津浦铁路若建一座独立的车站，即使铺设轻便轨道，至少也要花费30万至40万马克。如果 “两路共用”已有车站，这笔钱完全可以省下。 但中方更关注的是路权，担心德方会借 “两路共用”卡住中方的脖子，所以还是决定 “自立门户”，另建车站。在美国著名历史学家鲍德威看来，中方这样做是为了防止德国军队突袭北京。
于是，津浦铁路济南站诞生了。这座精美的、堪称经典的车站一经诞生，便让规模较小的胶济铁路济南站相形见绌。德方不甘落后，为了与中方抗衡，决定扩建胶济铁路济南站。 有意思的是，扩建地点就选在了津浦铁路济南站的正前方。这样，车站位置就从原来的津浦铁路济南站西南方移到了正南方。两座车站相隔约300米，胶济铁路济南站把津浦铁路济南站正面挡了个严严实实。 在一座省会城市，两座大型车站如此接近，且均为欧式风格建筑，这在我国极为罕见。不难看出，它是中德双方各怀心思、相互较劲的产物。 就在德方大兴土木、奋起直追的时候，一场意想不到的战争让他们梦碎中国。德国的梦想自然是在中国长期驻扎，这一梦想从车站建筑细节上可以看出端倪。在候车大厅地面上，装饰着德国铁十字勋章图案，铁十字勋章是德国军人的荣耀，从中不难看出德国的美好愿望。 1914年，第一次世界大战爆发。日本趁德国陷入欧战、无力东顾之机，于8月23日对德宣战，第二舰队封锁胶州湾，此后兵分两路：一路9月3日从山东龙口登陆，一路9月18日从青岛崂山仰口湾登陆。从龙口登陆的日军过平度，抵即墨，到胶州，9月26日占据潍县，10月6日占领胶济铁路济南站。从崂山仰口湾登陆的日军击溃德军陆上防线，11月10日进入青岛，11月16日宣布对青岛实行军管。胶济铁路全线落入日军之手。
日本在接手胶济铁路的同时，也把德国未完工的胶济铁路济南站扩建工程接了过来。1915年，车站竣工。由德国、日本两个敌对国家在中国接续完成一座欧式车站的建设，这在中国铁路建设史上极为罕见。 这座平面呈一字形的建筑中间部分高大突出，底层全部为蘑菇石砌筑，二层为高大的石柱廊，粗壮有力，修长俊美。在山东建筑大学教授张润武看来：“建筑立面轮廓处理粗犷而有力度，构图严谨、稳重，建筑局部处理细致精妙，是一座较成功地体现德国古典复兴晚期建筑艺术和结构形式相结合的建筑物。” 胶济铁路济南站见证了日本出兵山东制造的 “济南惨案”，见证了日军在车站对美国记者的无理扣押。 1928年4月，以蒋介石为总司令的国民革命军二次北伐，剑指北京张作霖奉系政权。他们一路攻城略地，势如破竹：28日包围泰安，29日打到明水，30日包围济南。直鲁联军总司令张宗昌招架不住，把济南商埠防卫权拱手让给日军，仓皇北逃。 1928年5月1日，国民革命军占领济南。由于奉系政权与日本交好，为了阻止国民革命军北上，日本田中内阁以保卫侨民为由，宣布出兵山东，派部队从本土抵达青岛，再乘胶济铁路火车抵达济南。 此后，日军制造了 “济南惨案”（“五三惨案”）。尽管日军封锁消息，但还是引起了一位外国记者的关注，他就是美国 《纽约时报》驻华首席记者哈雷特·阿班。他敏感地意识到，日本向山东大举派兵， “势必引发灾难性的并发症”。他几经辗转赶到青岛，乘胶济铁路火车于1928年5月10日中午到达济南。他的到来让日军大吃一惊，他们不明白为何会有美国记者出现，便把他 “扣留在火车站饭店，在车站办公室的楼上关押了几个小时”。 从日军当年拍摄的胶济铁路济南站照片中，笔者发现了 “胶济铁路饭店”字样。由此表明，这里就是扣押阿班的地方，具体地点就在车站西翼楼上。据 《图说济南老建筑·近代卷》记载：西翼 “是经营管理、办公用房和旅馆部分”，东翼“为餐厅和贵宾候车的地方”。
“胶济铁路饭店”横幅中间垂下的条幅中，还有 “大日本派遣军师团司令部”字样，说明这座车站当时是日军的指挥机构。由此可以推断，阿班被扣押的地方离日军司令部不远。 后经随行的日本记者堀口交涉，阿班终于拿到了一张军人通行证，总算可以自由活动了。济南街头惨不忍睹，用他自己的话说： “遍地尸体似阴间。” “济南惨案”经他报道，传遍世界。他把这段经历写入了 《民国采访战》一书。 胶济铁路济南站是 “济南惨案”的见证者。制造 “济南惨案”的刽子手——日军第六师团师团长福田彦助在车站留下了罪恶的身影。 这期间，日军还留下了一张罕见的航拍照片。1928年5月22日，日军 “山东临时派遣飞行队”在济南上空侦察时拍下了两座济南站唯一的航拍合影照 。 此后，日军盘踞济南长达一年之久。在此期间，南京国民政府与日本多次交涉，直到1929年，日军才答应撤出济南。1929年5月12日，日军第三师团师团长安满钦一和参谋长谷寿夫 （1937年南京大屠杀的主犯）率全体日军撤出济南，登车地点就是胶济铁路济南站。民国时期著名的 《东方杂志》以摄影专题的方式记录了这一场景，留下了关于这座建筑的宝贵史料。 日军侵华，山河破碎，北平学者漂泊南下，颠沛流离，在胶济铁路济南站留下了惊鸿一瞥。 1937年， “七七事变”爆发，北平沦陷。由于津浦铁路中断，北平的学者们设法取道天津，乘船至烟台或青岛，沿胶济铁路到济南，再转津浦铁路南下。
当时，北大、清华、南开三所大学已南迁至长沙，合办临时大学。胶济铁路济南站作为中转地，许多学者在此留下了惊鸿一瞥。 据 《沈从文传》记载： “火车沿胶济线行驶，不时有日机从列车上空掠过。每当飞机出现时，列车便赶紧停下来，并立时发出警报，车上男男女女便急慌慌跑下车去，在铁路两旁的田头地角隐蔽。” 与沈从文同行的，有作家杨振声、诗人梁宗岱、美学家朱光潜、国际政治问题专家钱端升等一批清华、北大的熟人和朋友。 他们一路颠簸到达济南，已是半夜时分。夜色中的胶济铁路济南站记下了万千流亡者凄惶的神情、凌乱的脚步和背井离乡的痛苦。 许多学者拖家带口。陈寅恪带着妻子唐 和三个幼女：大女儿琉求9岁，二女儿小彭7岁，三女儿美延出生仅四五个月，另外还有一个佣人。梁思成、林徽因夫妇带着两个孩子：8岁的梁再冰和5岁的梁从诫，还有孩子的外婆，一家5口，也是颇为不易。 1937年12月27日，济南沦陷，两座车站落入敌手。第二年，日军做出一个重大决定：将胶济铁路与津浦铁路并轨，津浦铁路济南站作为胶济铁路的尽头站，胶济铁路济南站改为办公用房。
自此，津浦铁路济南站也就成为对这段历史不太了解的、世人心目中的济南老火车站。由于这座车站1992年被拆除，曾经 “双雄对峙”的两座老建筑只剩胶济铁路济南站 “孤独一支”。 这座老建筑作为百年胶济尽头站唯一原汁原味的历史遗存，承载着屈辱与艰辛，传承着光荣与梦想。 自津浦铁路济南站1992年被拆除后，胶济铁路济南站就成为了百年胶济尽头站唯一的历史遗存。因为另一个尽头站——青岛老火车站也在后来的扩建中被拆除，按原风格重建。 由于车站功能消失，胶济铁路济南站慢慢淡出了人们的视线，很少有人关注，更很少有人知道背后这段曲折的历史。 1995年12月20日，胶济铁路济南站旧址被济南市政府列为“第二批市级文物保护单位”。
2006年12月7日，山东省政府将其列为 “第三批省级文物保护单位”。 2009年5月，山东省启动“第七批全国重点文物保护单位”的推荐申报工作，省文物局将胶济铁路济南站建筑群上报国家文物局，并在推荐意见中做出如下评价： “从历史价值角度讲，济南近代的城市建设是因西方宗教的传入和商埠的开设而发展起来的。近代以前的济南府长期作为山东地区的行政和商业中心，是一座典型的内陆、封闭的封建城市。商埠开放之后，济南开始了大规模中西混杂的近代建筑活动，也逐渐形成了旧城与新商埠东西并列、中西建筑风格交融混杂的城市面貌，由一个封闭的封建城市逐渐转变为半殖民地半封建的近代开放城市。胶济铁路济南站就是在这样的特定时期登上了历史舞台，见证了济南乃至我国铁路发展的历史，见证了西方帝国主义当时对山东和济南进行的经济掠夺、文化侵略，具有极高的教育价值。” 从建筑本体价值角度讲，尽管时代变迁，周边环境有很大变化，但它们整体保存完好，风采依然，是现存济南早期铁路建筑中最重要的一组建筑群体。几座建筑之间组成了一个尺度十分适宜的站前广场，环境氛围十分统一，是济南站前最有特色、最具早期代表性的一组建筑群。
其中，“原胶济铁路济南站”的局部处理细致精妙，是一处较成功地体现德国古典复兴晚期建筑艺术和结构形式相结合的建筑物，加之其在城市中的位置显赫，是济南近代城市建设史和建筑历史上的一个精品； “原胶济铁路济南站办公用房”和 “原胶济铁路济南站站长室”等从造型到细部处理都是济南商埠区日耳曼风格建筑中的精品； “原胶济铁路济南站邮局”的建造手法则体现出典型的欧洲巴洛克风格。 此后，国家文物局组织专家对5573处申报项目进行遴选，选出3057处，经征询有关部门意见，最终确定1943处。今年3月，国务院核定公布 “第七批全国重点文物保护单位”名单，胶济铁路济南站榜上有名，可谓实至名归。 路局党委、路局经过一年的精心筹备，2013年11月在此建成了胶济铁路陈列馆，其中有5个特色专题，辅之以众多珍贵文物，系统介绍了胶济铁路的发展及深远影响，从一个侧面展示了中国铁路所承载的屈辱与艰辛，所传承的光荣与梦想！
