Инициаторами создания стали Совет ветеранов и Общественный совет.
В сентябре 2005 года начальником УВД города Магнитогорска Сергеем Семеновым был подписан Приказ Управления внутренних дел города Магнитогорска №579 «О создании музея УВД г. Магнитогорска».
Совет ветеранов и Общественный совет стали инициаторами создания стенда о ветеранах, зачисленных навечно в списки ветеранской организации. На нем размещена информация о Владимире Баканове, Владимире Паламарчуке, Григории Логинове, Анатолии Кудимове, Михаиле Ротанове, Сергее Попове, Борисе Аслаповском и Федоре Булатове.
Как отметил заместитель председателя Общественного совета, председатель Совета ветеранов Александр Акимович Разумный, все ветераны внесли огромный вклад в развитие и становление ветеранского движения. Например, когда Михаил Яковлевич Ротанов вышел на пенсию, началось обсуждение вопроса о создании Музея. Это было в начале 90-х годов ХХ века. Он активно включился в формирование ветеранской организации магнитогорской милиции, став ее первым председателем. Именно он собрал исторический материал о становлении органов внутренних дел Магнитогорска, о первых руководителях магнитогорской милиции. С его архивных материалов началось формирование Музея. В дальнейшем благодаря собранным старинным фотографиям, ответам из архивов, газетным вырезкам постепенно шло наполнение музейного фонда. Продолжателем его традиций стал Владимир Васильевич Паламарчук. Активным участником различных мероприятий, проводимых Советом ветеранов и будучи первым председателем Общественного совета, был Федор Александрович Булатов. Известен как писатель, краевед и Владимир Петрович Баканов. Григорий Петрович Логинов воссоздал список милиционеров, погибших на фронтах Великой Отечественной войны. А Анатолий Иванович Кудимов был настоящим «народным участковым», которого знали и уважали не только жители Ленинского района, но и всего города Магнитогорска. Именно ему первые погоны лично вручал министр МВД РСФСР В.Тикунов.
Сегодня Музей – это кладезь информации, в котором собрано почти две тысячи экспонатов. Большое внимание ветеранами службы и Общественного совета уделяется сохранению памяти об истории магнитогорской милиции, обновляются стенды с информацией, появляются новые и новые музейные реликвии.