Торговля шла на этом месте еще со времен царя Алексея Михайловича, по его приказу в 1664 году на площади построили гостиный двор, а позднее, при Екатерине II, началось планирование нового здания. Разрабатывал его царский архитектор Кваренги Джакомо, после чего проектом занялся Осип Бове: его торговые ряды просуществовали до конца 1880-х годов, пока не устарели и не было решено возводить новые.
В открытых «Верхних торговых рядах» можно было купить все, что угодно: у ГУМа была своя парикмахерская, ресторан и даже почтовое отделение. По некоторым данным, там впервые в городе появились ценники, так как площадь магазина стала слишком велика, чтобы говорить цену на каждый товар и именно там впервые появилась книга предложений для покупателей: ряды заботились об их мнении, стараясь учитывать пожелания клиентов.
Октябрь 1917 года стал решающим моментом не только для жизни страны, но и для Верхних торговых рядов, которые так же, как и остальные торговые предприятия, были национализированы. Вскоре после октябрьских событий у всех владельцев Верхних торговых рядов отобрали товар и помещения.
Художник Александр Родченко нарисовал герб ГУМа — круг с буквами ГУМ в центре,— в разных вариациях этот герб просуществовал все советское время. А Маяковский сочинил к нему слоган:
Хватайтесь за этот спасательный круг!
Доброкачественно, дешево, из первых рук!