В 1993 году на заседании руководства рубцовской милиции и Совета ветеранов было принято решение о сборе материалов для создания музея рубцовской милиции.
Все фотографии и документы, которые использовались в оформлении Ленинской комнаты милиции, были пересмотрены. Большая часть из них положила начало комплектованию фондов. Ветераны приносили свои документы и фотографии, воспоминания о работе, награды и другие вещи.
Так формировался фонд музея, который находится у председателя Совета ветеранов Гриценко Ивана Федоровича. Материальное обеспечение и контроль за ходом работы по оформлению музея было поручено Буткову Александру Владимировичу, заместителю начальника по работе с кадрами городского управления милиции. Все графики размещения экспозиции в зале музея тщательно изучались, обсуждались с группой оформителей председателем Совета ветеранов Грицеко И.Ф., утверждались Бутковым Александром Владимировичем. Оформление музея заняло время от декабря 1994 года по май 1995 года.
Экспозиция музея раскрывает историю рубцовской милиции с 1921 года. Фотография первого здания по переулку Центральный, 6, фотографии сотрудников Рубцовской милиции 1920-х годов. Архивные данные помогли установить фамилию первого начальника Рубцовской Уездной милиции - Клейгоф. Рассказывается в экспозиции музея о работе Уголовного розыска, отдел которого организован в 1922 году (его первый начальник - Коротков), количестве вооружения, которое было у сотрудников, о том, что уже в 1924 году для обобщения передового опыта в губернской милиции выделен Рубцовский отдел, как лучший по организации работы по раскрытию преступлений.
В экспозицию введена форма сотрудников милиции 1947 года, фотографии ветеранов, их ордена и медали, интересные документы. Вся экспозиция построена в хронологической последовательности открытия отделов в нашей милиции. Много экспонатов введено в раздел - спорт, форма, дипломы, грамоты, кубки, фотографии, вымпелы, которыми награждены спортсмены из милиции. Есть среди экспонатов и те, с которыми встречаются сотрудники милиции при задержании преступников. К 5 мая 1995 года экспозиция музея была оформлена. На открытие пришли ветераны и сотрудники музея, гости. После выступления начальника Управления милиции города Нестеренко Григория Антоновича ленту разрезал Серых Николай Яковлевич. Так в городе появился Музей милиции.