哈爾濱市第三中學于1923年10月由督辦王景春創建，初名為中東鐵路普育學校。后易名為東省特別區區立師范、濱江省立哈爾濱市第三國民高等學校、松江省立第二中學，1964年正式定名為哈爾濱市第三中學。

根據2015年4月學校官網顯示，哈爾濱市第三中學有南崗校區（老校區）和群力校區（新校區）兩個校區。共有92個教學班，約3500多名學生。2017年11月，哈爾濱市第三中學獲評第一屆全國文明校園。