В отличие от большинства больших универмагов, которые начинались с небольших магазинов и имели отдельного хозяина, Торговые ряды представляли из себя вариант огромного вещевого рынка, с множеством владельцев — покрупнее и помельче. Только со стороны Красной площади здание имело более или менее приличный вид. От Никольской до Ильинки растянулось двухэтажное строение, немного напоминавшее по архитектуре нынешний Гостиный двор. Остальное место занимали мелкие деревянные лавки, которые часто горели. Пожары случались несколько раз в год, особенно часто зимой — из-за маленьких печурок. Но самый большой пожар в 1812 году, случившийся в дни французского нашествия, обошел торговые ряды стороной.
В 1815 году возводится новое здание Верхних торговых рядов. Но проблема «семи нянек» оставалась. Договориться о ремонте было практически невозможно, здание ветшало, деревянные перекрытия сыпались, посетители рисковали провалиться на нижние этажи в процессе примерки. Ко второй половине XIX века стало понятно, что здание устарело и нужно принимать незамедлительное решение по его реконструкции. Торговцы выставили невыполнимые требования, но Дума не сдавалась и путем создания Акционерного общества удалось создать единого заказчика реконструкции. Правление Общества в 1888—1889 провело Всероссийский конкурс на лучший проект. Первой премии удостоился архитектор А. Померанцев, который наиболее естественно вписал новые здания в уже существующий городской пейзаж, минимально изменив планировку и, что важно, его проект был относительно недорогим.