Земляные работы на месте будущей плотины, которая должна была обеспечить водой строящийся завод, начались 26 июля 1930 года - практически сразу после закладки фундамента первой доменной печи. Разработкой проекта занимались американские специалисты, но выяснилось, что он пригоден лишь для скального грунта. Поэтому к делу подключились советские инженеры во главе с известным гидростроителем Г. О. Графтио. Так что первоначальный проект претерпел ряд существенных изменений. Изначально на со-оружение километровой плотины, состоящей из 101 арки и водосливной части, отводилось около года. Работы нужно было завершить до наступления весеннего паводка. Строительство велось одновременно с правого и левого берегов. Между бригадами, которые работали по нескольку смен подряд, чтобы вовремя выполнить намеченные объёмы, было организовано соревнование. Победитель получал переходящее Красное знамя. Порой люди проявляли настоящий трудовой героизм. Например, когда нужно было подготовить котлован для бетонирования плотины, бригада землекопов Нурзуллы Шайхутдинова работала без отдыха 34 часа. А автогенщик Василий Мартьянов трудился без перерыва 36 часов, выполняя срочный заказ, необходимый для строительства плотины. С Шайхутдиновым связана и ещё одна история, которую в своё время обсуждал весь Магнитострой. Во время работы он, уставший, случайно выронил в ледяную воду лом, но, зная, как не хватает на Магнитострое инструментов, не задумываясь, нырнул за ним в реку. Вытащили Нурзуллу из воды, как огромную ледяную сосульку, а в руках у него - лом.
Начальником строительства плотины был назначен инженер Михаил Степанов. Вопреки мнению американских инженеров, он принял смелое техническое решение - возводить плотину без тепляков. Благодаря этому строители без потери качества значительно выиграли во времени. Он же заменил бетонолитную мачту на эстакаду, что позволило провести бетонные работы быстрее и надёжнее.
Всё это позволило закончить работы значительно раньше намеченных сроков. Самая длинная в мире железобетонная многоарочная плотина протяжённостью 1100 метров и высотой десять метров была построена всего за 74 дня, а не за 120, как планировали американские инженеры. Первая её часть была пущена первого ноября 1930 года. Из остатков бетона, приготовленного для одной из последних арок, строитель соорудили постамент, на который водрузили бюст В. И. Ленина, выполненный скульптором Козловым. Полностью плотина вступила в строй пятого апреля 1931 года, после того как была построена водосливная часть.