哈尔滨工业大学图书馆建于1920年。建馆初期,馆舍面积只有七、八十平方米,藏书仅几百册。1950年初,中华人民共和国政府接管哈工大,从此哈工大图书馆在党和政府关怀及学校重视下,逐步发展壮大。1954年,哈工大图书馆迁至西大直街169号之后,馆舍面积达到3200平方米,馆藏图书增加到40万册。20世纪60年代中期,图书馆已逐渐形成了中外文兼顾、理工并重,以机、电、仪书刊为主体的,具有哈工大专业学科特色的藏书体系。
哈尔滨工业大学隶属于工业和信息化部,是由工信部、教育部、黑龙江省共建的国家重点大学,是首批进入国家“211工程”和“985工程”建设的若干所大学之一。1920年,中东铁路管理局为培养工程技术人员创办了哈尔滨中俄工业学校――即哈尔滨工业大学的前身,学校成为中国近代培养工业技术人才的摇篮。新中国成立后,学校成为全国学习前苏联高等教育办学模式的两所大学之一,此后哈尔滨工业大学一直得到国家的重点建设。