상하이 북역이라고 하면 상하이 철도의 역사와 밀접한 연관이 있는 곳이다.
청나라 현통 원년(1909년) 6월, 상하이-난징 철도국은 상하이 역(즉, 후닝 역)에 4층짜리 사무실 건물을 지었습니다. 건물은 영국인이 설계했으며 1층의 외벽은 칭다오석으로 만들어졌으며, 1층 이상은 철제 기둥과 들보를 사용하고 빛으로 장식했습니다. - 컬러 상감 조각, 대리석 기둥, 아치형 문과 창문이 있으며 76개의 방이 있습니다. 당시에는 "아름답고 웅장하게 건축됐다"고 평가됐다. 이 건물은 상하이역에 지어졌기 때문에 사람들은 상하이역의 상징으로 익숙하게 사용하고 있습니다.
1916년 12월 상하이-난징 철도와 상하이-항저우 철도가 연결되었고 상하이-난징 철도의 상하이역이 두 철도의 종착역이 되었으며 상하이 북역으로 이름이 바뀌었습니다.
1932년 일제가 '128사변'을 도발해 전쟁으로 상하이-난징 철도국 4층 청사 건물이 파괴됐다.
이듬해 복원된 뒤 1937년 '8·13사변' 때 일본의 폭격으로 다시 훼손됐다. 항일전쟁 승리 후 복원됐다.
1949년 5월 28일 20시 50분, 상하이 해방 후 첫 여객열차가 후난징선 상하이 북역에서 출발했다.
1950년 8월, 철도부의 승인을 받아 상하이 북역은 공식적으로 상하이역으로 이름이 바뀌었고, 이후 여객 운송 및 LTL 화물을 처리하는 특별 등급 역으로 승인되었습니다. 1950년대부터 1980년대까지 상하이역은 지속적인 개조와 확장을 거쳤습니다. 1980년까지 상하이역은 11개의 도착 및 출발 노선과 3,985평방미터의 대기실을 보유했으며 역의 도착 및 출발 수용 능력은 29쌍으로 확장되었습니다. 1987년에는 1,859만 명의 승객이 파견되었고 2,077만 4천 명의 승객이 도착했습니다.
그러나 역의 수송능력은 증가하는 여객수송량을 감당하지 못하여 1987년 말에 새로운 여객역이 개통되었다.