Ещё не было города, только в планах да на чертежах вырисовывался будущий комбинат, но крошечное, несколько десятков книг, собрание громко именовалось городской библиотекой.
Среди первых читателей были Борис Ручьёв, чьё имя с 1980 года носит центральная городская библиотека, Михаил Люгарин, имя которого присвоено библиотеке литературного краеведения № 6, Александр Ворошилов и другие литераторы Магнитки. В 30-е годы библиотека тесно сотрудничала с членами литературной группы "Буксир", вместе с ними проводя литературные встречи. Сегодня в редком фонде центральной библиотеки хранятся выпуски рабочего литературно-художественного журнала "Буксир" как артефакт эпохи великого энтузиазма.
Трудные времена библиотека со всей страной пережила в годы Великой Отечественной войны. Помещение библиотеки было передано под госпиталь, а книги перевезли в ветхое барачное здание. Большая сменяемость кадров, несоблюдение условий сохранности, большая миграция населения - всё это привело к тому, что большая часть фонда библиотеки была утрачена. Но с 1945 года начинается усиленное комплектование фонда новой литературой.
В 1956 году библиотеку возглавила Мария Андреевна Ерушева. Именно под её руководством библиотека выросла до городского методического центра и стала одной из лучших в Уральском регионе. За заслуги в развитии библиотечного дела Мария Ерушева награждена орденами Октябрьской революции и "Знак Почёта", медалью "За трудовую доблесть", значком Министерства культуры СССР "За отличную работу".
С начала 70-х годов библиотека становится центром библиографической и краеведческой работы в городе. Библиотека дважды принимала участие в научных исследованиях Государственной библиотеки имени В. Ленина. С 1970 года ведётся уникальный каталог "Магнитогорск": сначала в карточном, а с 2000 года - в электронном виде.
В 1987 году директором объединения городских библиотек стала Анна Николаевна Дорогова, которую избрал коллектив. Под её руководством в центральной библиотеке внедряли новые формы работы по пропаганде книги: театрализованные вечера, дни приветствий, премьеры книг, вернисажи, аукционы, библиотечные ринги. Проходили школы передового опыта для библиотек Челябинской области. В 1989 году вышло методическое пособие "Наш подход к пропаганде книги", а в 90-е и 2000-е годы - новые сборники, рассказывающие об инновациях магнитогорских библиотекарей. Центральная городская библиотека стала общепризнанным методическим центром.
Сегодня библиотека имени Бориса Ручьёва бережно хранит традиции и внедряет инновационные элементы. Создан центр общественного доступа к государственным услугам в рамках "Электронного Правительства России": всем заинтересованным лицам обеспечен бесплатный доступ к социально значимой информации, к сайтам федеральных и региональных органов власти. К услугам пользователей справочные правовые системы "Гарант", "КонсультантПлюс", "Законодательство России". В библиотеке реализуют десять просветительских целевых комплексных программ для всех возрастных групп.
На базе библиотеки работает литературно-музыкальная гостиная, еженедельно проходят психологические здоровьесберегающие тренинги, интеллектуальные игры "Что? Где? Когда?", развивается волонтёрское движение. При библиотеке работают 15 клубов и любительских объединений. Для социально незащищённых слоёв населения - пенсионеров и инвалидов - организовано обучение навыкам работы на компьютере.
В 2014-м, в Год культуры, юбилейный для Магнитогорска и центральной городской библиотеки имени Бориса Ручьёва, она стала победителем областного конкурса, приказом министра культуры Челябинской области ей присуждено звание "Лучшая городская библиотека".