Fundado em 04 de junho de 1918 por Alcides Costa e Francisco Simões, e inaugurado em 18 de setembro do mesmo ano, em uma época em que Pelotas era a segunda mais importante cidade do estado, e já possuía uma sólida tradição cultural, tendo sido no século XIX o maior pólo cultural do Rio Grande do Sul, a ponto de ser chamada de “a Atenas gaúcha”. O Conservatório foi criado na esteira do projeto civilizador e progressista republicano cujos ideais visavam uma equiparação cultural do Brasil aos países mais avançados da Europa. Na época de sua fundação a cidade experimentava um grande surto de desenvolvimento, a última floração do ciclo do charque. Os antecedentes para sua criação foram o estabelecimento em Porto Alegre, a capital do Rio Grande do Sul, do Conservatório do Instituto Livre de Belas Artes, e a chegada em 1916 do renomado pianista Guilherme Fontainha para dirigí-lo. Fontainha era uma personalidade dinâmica e grande pedagogo, sendo uma das peças-chave para a disseminação no sul de um modelo educativo musical moderno, baseado na metodologia do Instituto Nacional de Música, do Rio de Janeiro, e tinha contato com figuras importantes do modernismo brasileiro. Ele inspirou a criação de conservatórios em várias cidades do estado, sendo auxiliado nessa empresa por José Corsi, e foi o mentor também da fundação da instituição pelotense, para a qual indicou Antônio de Sá Pereira como primeiro diretor artístico. O início de suas atividades se deu com o ensino do piano, violino, canto, teoria e solfejo, sendo a primeira instituição oficial fundada especialmente para o ensino da música na cidade; a segunda entidade no gênero a ser fundada no Rio Grande do Sul, e a quinta no Brasil. O compromisso do Conservatório de Música com a promoção da cultura e a construção da cidadania permeia suas atividades desde a fundação. Como tomou para si a tarefa de promoção e organização dos concertos que se realizavam na cidade, tanto dos alunos da escola como de artistas convidados, a trajetória do Conservatório de Música é parte indissociável da própria história da música na cidade.
Desde sua criação, o Conservatório de Pelotas foi a única instituição para o ensino musical com atividade ininterrupta na cidade, e seu salão de concertos é um dos mais antigos no Brasil em atividade.
Desde então, o trabalho de diretores, professores, funcionários e comunidade em geral, tem sido no sentido de manter esta honrada instituição em pleno funcionamento, prestando serviços e oferecendo sempre o que há de melhor em termos de música à comunidade.
Ao longo de sua história, foram várias as diretorias que conduziram as atividades desenvolvidas no Conservatório. Dentre elas, foi notável o trabalho realizado pelo ex-diretor Milton de Lemos. No período de 1923 a 1954, o grande mestre reuniu seus esforços através da Sociedade de Cultura Artística (órgão do qual foi fundador) trazendo a Pelotas artistas consagrados no Brasil e no mundo. Entre os artistas célebres que se apresentaram em concertos organizados pelo Conservatório podemos sitar Bidu Sayão, Conchita Badía, Eudóxia de Barros, Guiomar Novaes, Magda Tagliaferro, Zola Amaro, Claudio Arrau, Wilhelm Backhaus,Arthur Rubinstein, Francisco Mignone, Hans-Joachim Koellreuter, Sebastian Benda, Nathan Schwartzman, Jean Jacques Pagnot, Bagumil Sykora, Gaspar Cassadó, Jacques Thibaud, Nelson Freire, Miguel Proença, Roberto Szidon, Mariana Mihai, Marlos Nobre e Olinda Allessandrini.
O Conservatório de Música completa este ano 101 anos de atividades ininterruptas no ensino, na pesquisa e extensão.
A importância do Conservatório de Música de Pelotas já foi atestada quando, em 26 de julho de 2004, foi promulgada a Lei nº 12.133 que o declarou integrante do Patrimônio Cultural do Estado do Rio Grande do Sul.
Também relevante observar que o Conservatório de Música de Pelotas foi uma das unidades que contribuíram para a existência da Universidade Federal de Pelotas, em 1969.
Atualmente o Conservatório atende os projeto: Curso de Iniciação Musical (Acordeom, canto, cavaquinho, flauta transversal, guitarra, violão, violino, saxofone, trompete e Teoria e Percepção Musical) e Curso Avançado de Música, promovidos pela Associação Amigos do Conservatório de Música. O Conservatório possui o Coral Infanto-Juvenil, Coral Feminino do Conservatório de Música e Grupo de Acordeonistas, projetos de extensão que contam com o apoio da Assamcon.
Realiza anualmente os projetos: Encontro de Corais.
Realizou o I e II Encontro de Sopros, em 2019 promoveu o I Encontro de Acordeonistas, além de diversos eventos nacionais e internacionais realizados e apoiados pela ASSAMCON.
Em 2022 iniciou as obras de restauro do prédio através:
Da Secretaria de Cultura do Estado do Rio Grande do Sul com o Projeto do Restauro inicial do Conservatório de Música de Pelotas.
Realização Santa Fé Produtora e Patrimônio
Patrocínio Arrozeira Pelotas, Biri Refrigerantes, Irmãos Jouglard e Cerealista Polisul
Financiamento do Sistema Pró-Cultura RS LIC e Associação Amigos do Conservatório de Música.