После пожара 1812 года Москву отстраивали практически заново. Комиссия для  строения в Москве во главе с архитектором Осипом Бове по воле императора Александра I  решила в центре города перед Петровским (Большим театром) сделать величественную площадь. По плану О. Бове на площади должны были быть построены четыре двухэтажных здания с открытыми галереями в первых этажах, которые предназначались для торговли. В 1821 году участок на площади покупает Василий Васильевич  Варгин, известный московский купец, осуществлявший поставки для российской армии. Василий Васильевич был и крупнейшим домовладельцем – владел 11 домами в Москве. Как пишет его биограф, историк Валерий Николаевич Лясковский, Василий Васильевич Варгин задумал построить в Москве что-то в роде Палэ-Рояля или гостиного двора в европейском вкусе. Строительство здания он поручает архитектору Александру Филипповичу Элькинскому.
В 1823 году В.В. Варгин предоставляет свой дом в аренду Министерству двора для выступлений драматической труппы, которая до этого играла в «манеже» дома Пашкова на углу Большой Никитской и Моховой улицы. За счет средств Василия Васильевича Варгина Осип Бове приспосабливает здание для размещения в нем театра

Днем открытия Малого театра считается 14 (16) октября 1824 года – день, когда был дан первый спектакль в доме В.В. Варгина. Газета «Московские ведомости» писала об этом событии: «Дирекция Императорского Московского театра чрез сие объявляет, что в следующий вторник 14 октября сего года будет дан на новом малом театре, в доме Варгина, на Петровской площади, для открытия онаго спектакль 1-й, а именно: новая увертюра сочин. А.Н.Верстовского, впоследствии во второй раз: Лилия Нарбонская, или Обет рыцаря, новое драматическое рыцарское представление-балет...»
В 1834 году здание Малого театра было выкуплено у Василия Васильевича Варгина в казну в счет погашения его долгов всего за 375 тысяч рублей – с мебелью, зеркалами, бронзою и пр., а также с пустопорожней землей. Как писал историк В.Н. Лясковский, здание Малого театра стоило В.В. Варгину более миллиона рублей, таким образом, «дом был взят у Варгина почти даром». При этом выплата В.В. Варгину должна была осуществляться государственным казначейством в течение 10 лет.

В 1838–1840 годах архитектор Константин Тон перестраивает здание, расположив зрительный зал со сценой в пустующем до этого дворе. Это здание с фасадом бело-желтого цвета, выдержанным в стиле позднего классицизма, и дошло до наших дней. Четыре яруса зрительного зала театра украшает лепной и резной по дереву декор из картушей и гирлянд.

С тех пор Малый театр неоднократно ремонтировался из-за того, что воды реки Неглинки, протекающие в трубах под землей, подтапливали фундамент. Самые крупные реконструкции здания прошли в 1945–1947 и 2011–2016 годах. В 1929 году у стен театра был установлен бронзовый памятник драматургу Александру Островскому (скульптор Н.А.Андреев), чьи пьесы с успехом шли на сцене Малого Театра.