1920年，哈尔滨工业大学前身——华俄工业学校在原俄国总领事馆成立

原华俄工业学校（现哈尔滨工业大学建筑学院）操场

原华俄工业学校（现哈尔滨工业大学建筑学院）教学楼旁的老榆树

    在哈尔滨铁路局办公大楼附近的公司街与花园街拐角处，有一幢中东铁路时期的建筑。它造型简洁，局部线条优美流畅，是哈尔滨俄罗斯风格建筑中的精品。特别是楼前、楼后数十棵树根已植入楼基、树龄都在百年以上的老榆树，更衬托出老楼历史的悠久。它就是哈尔滨工业大学的前身———中东铁路时期的哈尔滨华俄工业学校。
    1903年，中东铁路通车后，铁路和城市建设亟须大批工程技术人员，中东铁路职员为使自己的子女受到高等教育，也迫切要求建立高等工业学校。于是，中东铁路当局于1920年5月初，开始酝酿成立华俄工业学校。同年8月5日，中东铁路中、俄工程师成立了哈尔滨华俄工业学校筹建协会，推选俄籍工程师阿·阿·摄罗阔夫为首任校长。10月17日，学校宣告成立，并举行了隆重的开学典礼。校舍设在俄国驻哈尔滨总领事馆原址（现公司街78号），后经陆续扩建，校区占地面积约2万平方米，位于大直街、花园街、公司街和建造街（现海城街）中间，即现在哈尔滨工业大学建筑学院老教学楼后院。学校办学经费主要是由中东铁路拨款，政界、工商界也有赞助，校名为“哈尔滨华俄工业学校”。当时学校名义上属私立，实际上受中东铁路管辖。
    学校按俄国规章办学，设铁路建筑和机电工程两个学科。鉴于有些俄籍学生已在俄国国内上过一年大学，所以在铁路建筑学科同时招收一、二年级学生，每个年级一个班，设36门课程；招生时只招男生，学制四年，实行学分制，一律使用俄语教学，采用5分制。学校对学生要求极为严格，一个学年内有三科不及格者留级，两科不及格者允许补考，补考后仍有一科不及格者留级，毕业时进行毕业考试和毕业设计答辩。学费每人每学年300金卢布，对中东铁路职员子弟优惠，只收200金卢布。另外，学校每年设五个奖学金名额，每个名额300金卢布。学校建立学生会和学生监察部，学生会是学校行政和学生之间的桥梁，学生监察部是监督学生会的一个专门机构。
    在建校的同时，学校还为中国学生开设了预科班，补习俄语。预科班是专门为学俄语的中国学生报考本校提供培训机会的班级，学制三年。首届预科班共招收中国学生17名。1921年和1922学年，学校附设了铁路技术学校，培养铁路初级技术人员，招生对象主要是中东铁路职工子弟，连续办了九届，有227名毕业生。另外，学校还附设了培养交通人才的技术夜校，开设了培养机关译员、青年职工的夜课班。
    哈尔滨华俄工业学校开办后，引起中东铁路和社会的广泛关注，公众对学校的要求不断提高，以适应铁路发展的需要。1922年4月2日，哈尔滨华俄工业学校设铁路建筑系和机电工程系，学制五年，从中学生中录取新生，培养目标为交通、电器、机械方面的工程师。