En 1828, le violoniste François-Antoine Habeneck avait insisté auprès de Cherubini, directeur de l'École royale, pour que les "exercices publics" des élèves, interrompus en 1815, reprennent. Peu après, Paris institue son premier orchestre par décret royal : "Il y aura tous les ans à l’École Royale de Musique et de Déclamation Lyrique, six Concerts publics qui commenceront au plus tard, le 1er Dimanche du mois de Mars. Le Directeur fera en sorte que les dits Concerts se succèdent sans qu’il y ait entre chacun une intervalle qui puisse dépasser quinze Jours" (article premier du décret du 15 février 1828). Luigi Cherubini, directeur du Conservatoire, devient le président de ce nouvel orchestre. Le 9 mars 1828, Habeneck dirige le premier concert de l’Orchestre de la Société des concerts du Conservatoire, avec des œuvres de Rossini, Cherubini et Beethoven, permettant ainsi à Paris de rattraper son retard en matière de musique symphonique.
Le programme de cette première année d’Orchestre de la Société des concerts du Conservatoire reflète l’air du temps : Beethoven est à l’honneur. Cherubini, directeur des lieux, est souvent joué. Rossini et Auber ont parfois les honneurs des programmes, avec quelques compositeurs français de second ordre (Schneitzhœffer, Meyseder, Romberg, …). Peu de compositeurs antérieurs au début du XIXe, à l’exception de Mozart et Haydn, puis un peu plus tard, Haendel. Aux six concerts prévus par décret s’adjoint un septième, commandé par la Duchesse de Berry, belle-fille du roi Charles X et grande protectrice des arts. Puis la Société s’allie aux Concerts Spirituels, concerts de musiques sacrées dans les grands lieux de culte à l’occasion des fêtes religieuses, étoffant ainsi le nombre de concerts par saisons. L’Orchestre de la Société des concerts du Conservatoire se soucie peu de créations originales. Le goût parisien est résolument lyrique : des extraits d’opéras de Gluck, Rossini, Weber, Méhul ou Meyerbeer sont régulièrement programmés. Le goût pour les virtuoses s’établit peu à peu : Liszt, Thalberg, Alkan, Dancla, Klosé, Kalkbrenner, … viennent jouer en solistes.
Les saisons suivantes reflètent les envies de l’époque : la musique française se fait de plus en plus présente (Félicien David, Henri Vieuxtemps, Charles Gounod, …), certains compositeurs du XVIIIe siècle sont programmés (Haendel, Rameau, Pergolèse, …). La "musique contemporaine" de l’époque (Berlioz, Wagner, Franck, Dubois, Lenepveu, …) entre sous la direction de François-Georges Hainl, de 1863 à 1872. Le rythme s’accélère avec le chef d’orchestre suivant, Edouard Marie Ernest Deldevez qui dès sa première année de direction de l’Orchestre de la Société des concerts du Conservatoire programme la création mondiale du Concerto pour violoncelle n°1 de Camille Saint-Saëns. Il partage les concerts avec un autre chef d’orchestre, dont le nom devait rester célèbre encore aujourd’hui : Charles Lamoureux. A chaque saison le répertoire s’enrichit peu à peu (Brahms, Chabrier, Verdi, Lalo, Borodine, Humperdinck, …). Avec André Messager à la direction (de 1908 à 1919), Vincent d’Indy, Gabriel Fauré, Claude Debussy, Nikolaï Rimski-Korsakov, Paul Dukas, Charles Tournemire, Mili Balakirev, … et nombre de compositeurs français et russes sont à l’honneur. L’orchestre se déplace enfin en province, puis effectue ses premières tournées à l’étranger. Les concerts sont doublés, voire triplés, mais on ne dépasse pas la dizaine de programmes annuels.
Après la Première Guerre Mondiale, le rythme change. Philipe Gaubert, nouveau chef de 1919 à 1938 modernise résolument le répertoire et va jusqu’à jouer 20 programmes différents en un an. Charles Munch qui lui succède en 1938 continue dans cette lancée, l’effort de guerre ne semblant nullement influencer le nombre de concerts ni le répertoire. Le Palais de Chaillot remplace peu à peu l’étroite salle du Conservatoire. La Danse des morts et Chant de libération d’Arthur Honegger, la Symphonie en ut d’Henri Tomasi et l’Apocalypse selon Saint Jean de Jean Françaix sont créés pendant cette sombre période. André Cluytens reprend l’orchestre en 1946 et confie à Roger Désormières les programmes de musique contemporaine. L’orchestre part s’installer au Théâtre des Champs-Elysées. Mais la programmation tourne de plus en plus sur elle-même, l’orchestre joue le même répertoire. A partir de 1960 il n’y a plus de chef permanent, une politique d’invitations de grands noms du podium est lancée : Carl Schuricht, Manuel Rosenthal, Lorin Maazel, Georges Prêtre, Antal Dorati, Istvan Kerstesz, Michael Gielen, Jean Martinon, … La Société des concerts du Conservatoire donne son dernier concert avec un programme Wagner dirigé par Georges Sebastian le 12 mars 1967.
