1904年胶济铁路全线通车，起点站是济南商埠站，终点站是青岛站，全长412公里。黄台站位于历城区黄台南路21号，为济南铁路局二等站。该站建站于1904年，最初称济南府东关车站，因所在地被称为黄台站。
该站站房为德式建筑，建于1905年，坐北面南。建筑包括两层的办公楼和单层的售票、候车厅，均为三开间的长方形，使用碎石墙基和水泥拉毛墙面。东部三间为候车厅，其中划出东侧的一间为售票室和票库，设镶有粗石边框的大半圆拱形门窗。由候车厅通往北站台的出口设一突出的石门廊，四面均开有半圆券的石拱门洞，以便于人流疏散，底部使用向两侧逐渐蹬开的粗石扶壁夹持，顶部设三个山墙面小尖塔，一高两低，具有德国中世纪古城堡的风格。中部的办公楼一层为行李房、客运室，二层车站工作人员使用的宿舍，另设阁楼层。该站曾作为反映20世纪初年历史事件的电影《大浪淘沙》、电视剧《东方商人》拍摄时的外景地之一。目前，该站已经取消客运业务，仅用于货车编组和货物中转。
