1896年6月,中俄两国签订不平等的《御敌互相援助条约》(即《中俄密约》),沙俄获得在中国东北地区筑路的权利。同月,中东铁路正式开工。1903年7月14日,中东铁路全线通车。
1904年,日俄战争爆发。1905年9月5日,日俄双方背着中国签订了《朴茨茅斯条约》,俄国将包括旅顺口、大连在内的辽东半岛租借权和中东铁路长春以南的产权转让给日本,改称“南满铁路”。
1924年5月31日,中国北洋政府与苏联政府签订《中俄解决悬案大纲协定》和《暂行管理中东铁路协定》,规定中东铁路除经营外的一切事务均由中国政府处理,自此中国政府收回了中东铁路的行政权。1935年3月23日,前苏联未经中国同意,单方面将中东铁路出卖给伪满洲国政府,售价14亿日元。
1945年8月14日,南京国民政府与苏联政府签订《关于中国长春铁路之协定》,规定中东铁路和南满铁路合并为中国长春铁路,归中苏两国共同所有和共同经营,30年期满后,无偿交还中国。
1950年2月14日,中苏两国签订了《中苏友好同盟互助条约》,同时还签订了《关于中国长春铁路、旅顺口及大连的协定》,这个协定规定,苏联政府将于1952年年底之前,将共同管理的中长铁路的全部财产无偿地移交中华人民共和国。但中苏双方代表所担任的职务,自协定生效后改为按期轮换制。
1952年12月31日,哈尔滨市举行了中长铁路移交仪式庆祝大会,至此这条贯穿中国东北的铁路完全回到了中国人民手中。