29 марта 1938 года Совет Народных Комиссаров Карельской АССР принял постановление об организации в городе Петрозаводске музыкального училища. Оно было основано на базе музыкального отделения театрального училища. Организатором и первым директором учебного заведения стал дирижёр симфонического оркестра Лев Яковлевич Левин, заведующим учебной частью – Сергей Николаевич Озаров.

В газете «Красная Карелия» за 21 августа 1938 года была опубликована заметка «Карельское музыкальное училище», в которой сообщалось: «В нынешнем году начинает работать Карельское музыкальное училище, имеющее три отделения: оркестровое, фортепианное, инструкторское. Училище будет готовить музыкантов-исполнителей для оркестров, педагогов и руководителей самодеятельности».

Великая Отечественная война прервала занятия. Одни учащиеся и педагоги были эвакуированы, другие ушли на фронт, многие работали в концертных бригадах и ансамблях, выступая для воинов Советской Армии и населения Карелии.

В августе 1948 года музыкальное училище через газету «Ленинское знамя» объявило о приеме учащихся на первый курс. В сентябре были проведены приёмные экзамены, а с 1 октября 1948 года возобновилась работа на шести отделениях: «вокальном отделении», «фортепианном отделении», «отделении народных инструментов», «отделении духовых инструментов», «отделении струнных инструментов», «отделении хорового дирижирования». Первый выпуск состоялся в 1952 году. Тогда одиннадцать молодых специалистов получили дипломы и приступили к работе в музыкальных школах и творческих коллективах Карелии.

В первые послевоенные годы работу училища возглавил директор Лев Афанасьевич Косинский, заслуженный деятель искусств Карельской АССР. Среди первых выпускников были: народный артист СССР, композитор Г. Н. Синисало, заслуженный артист РСФСР Т. П. Вайнонен, заслуженные артисты Карельской АССР К. А. Вильянен, Л. И. Теппонен, Э. П. Хуовинен и другие.

С годами росли потребности республики в музыкальных кадрах. Открывались новые музыкальные школы, появлялись коллективы художественной самодеятельности, увеличивались нормы приема в училище и число выпускников. На сегодняшний день учебным заведением подготовлено более 3000 специалистов – преподавателей детских музыкальных школ, руководителей хоров, оркестров, ансамблей, артистов. Оно по праву гордится своими преподавателями и выпускниками. Большой вклад в дело подготовки профессиональных музыкантов республики внесли: К. Э. Раутио, Л. Я. Теплицкий, А. В. Васьков, К. И. Векслер, В. И. Варламов, С. П. Тетерин, Э. Б. Куцовский. Среди выпускников немало известных деятелей искусства, видных музыкантов, лауреатов международных конкурсов: М. И. Гаврилов, Н. А. Солнышков, А. Д. Тугай, Т. Л. Гликман, В. Дукальтетенко, И. Нокелайнен, Л. Афанасьев, Н. Раутио, И. Портная, А. Онькин, А. Кондаков и многие другие.

За заслуги в развитии музыкальной культуры Карелии постановлением Совета Министров СССР от 29 декабря 1971 года Петрозаводскому музыкальному училищу было присвоено имя заслуженного деятеля искусств Карельской АССР, композитора, стоявшего у истоков профессионального музыкального образования в республике, Карла Эриковича Раутио.

В 1988 году, в связи с 50-летием учебного заведения, Президиум Верховного Совета Карельской АССР наградил училище Почётной грамотой.

В 2008 году училище было переименовано в Петрозаводский музыкальный колледж имени К. Э. Раутио.

В настоящее время обучение ведётся только на дневном отделении, в 1981 году вечернее и заочное отделения были закрыты. Колледж готовит музыкантов по следующим специальностям: «инструментальное исполнительство (фортепиано, струнные, духовые и ударные, инструменты народного оркестра)», «академическое пение», «хоровое дирижирование (специализации: хоровое дирижирование и руководитель народного хора)», «теория музыки», «музыкальное искусство эстрады (специализации: инструменты эстрадного оркестра и эстрадное пение)».

В состав музыкального колледжа входит детская музыкальная школа педагогической практики. На его базе работают: академический хор, народный хор, ансамбль народной музыки «Зоряйне», духовой и камерный оркестры, оркестр русских народных инструментов, биг-бенд, детский фольклорный коллектив «Перегудки». Также при колледже работает библиотека, фонд которой составляет более 40 тысяч единиц хранения.

С 1982 по 2007 год учебное заведение возглавляла Лариса Георгиевна Бердино. С 2007 года директором колледжа является Юлия Сергеевна Крылова.

См. : Орлова, Л. Н. Музыкальный колледж / Л. Н. Орлова // Карелия : энциклопедия. В 3 т. Т. 2. К-П. - Петрозаводск, 2009. - С. 247-248; Школа муз : Петрозав. музык. училищу им. К. Э. Раутио - 70 лет! // Карелия. - 2008. - 8 марта. - С. 8; Бурмистрова, Л. А. Петрозаводское музыкальное училище им. К. Э. Раутио : (к 65-летию со дня орг.) / Л. А. Бурмистрова // Календарь памятных дат Карелии, 2003 год. – Петрозаводск, 2002. – С. 43-45.