Здание на Политехнической улице, д. 26, построено в 1912—1916 годах в неоклассическом стиле по проекту архитектора Г. Д. Гримма для «убежища для престарелых неимущих потомственных дворян в память 300-летия дома Романовых» на сорок призреваемых, на втором этаже устроили церковь (ныне Малый актовый зал института). Средства на постройку здания выделило губернское Дворянское собрание.
В 1920 г. здание приспособили под Физико-технический институт по проекту гражданских инженеров П. И. Сидорова и Ю. В. Билинского. Торжественная передача здания институту состоялась 4 февраля 1923 года. Угловая левая (со стороны Политехнической ул.) часть здания (два этажа) до 1953 года была квартирой А. Ф. Иоффе.
В 1927—1928 гг. пристроили дворовую часть. В 1970 г. здание частично перестроили и расширили по улице Курчатова.