黑龍江省圖書館始建于1906年（清光緒三十二年），前身為黑龍江將軍署學(xué)務(wù)處在齊齊哈爾市創(chuàng)辦的圖書館。1954年原黑龍江省與原松江省合并為新的黑龍江省，省會(huì)由原來(lái)的齊齊哈爾市改設(shè)在哈爾濱市，原黑龍江省圖書館便更名為齊齊哈爾市圖書館。

2013年5月，國(guó)務(wù)院（國(guó)發(fā)[2013]13號(hào)）公布黑龍江省圖書館舊址為全國(guó)重點(diǎn)文物保護(hù)單位。