Подготовка к сооружению велась в первой половине и середине 1930-х годов, а с 1937 года началось основное строительство.

К 1939 году закончилась кладка фундамента высотной части, главного входа и стороны, обращенной к Волхонке высотой до семи этажей. Для строительства дворца была изготовлена специальная марка стали — ДС, самая прочная на тот момент в СССР. Однако уже в сентябре — октябре 1941 года в период Великой Отечественной войны из подготовленных для монтажа металлических конструкций были изготовлены противотанковые ежи для обороны Москвы, а вскоре едва поднявшееся от уровня фундамента здание пришлось разобрать совсем: после оккупации гитлеровцами Донбасса в 1942 году стальные конструкции Дворца Советов были демонтированы и использованы для сооружения мостов на железной дороге, построенной для снабжения северным углем центральных районов страны. В 1944 году стальные конструкции использовались для пролетных строений Керченского моста, но вскоре этот мост был разрушен. После окончания войны было решено сосредоточиться на восстановлении страны, и проект был заморожен.