Das Orchester wurde mitten im 2. Weltkrieg 1941 von dem Jülicher Augenarzt Dr. O. H. Baumert aus einem privaten Musikzirkel heraus gegründet und trat ein Jahr später mit einem Konzert im Rathaussaal an die Öffentlichkeit. Alois Erdweg war der erste musikalische Leiter. Ihm folgten in kürzeren Abständen O. H. Baumert, Gustav Thiedeke und Wilhelm Weinberg. 1952 begann die 34 Jahre währende Ära von Georg Bischof, Lehrer am Staatlichen Gymnasium Jülich, dem späteren Gymnasium Zitadelle. Unter seiner Ägide wuchs das Orchester stetig durch Schüler des Schulorchesters und Mitarbeiter des Forschungszentrums. Dann übernahm mit dem erst 22-järigen Gregor Bühl, heute ein gefragter Dirigent im In- und Ausland, die jüngere Generation den Taktstock für vier Jahre. Er brachte mit neuen Ideen neuen Schwung in das Ensemble. Ihm folgte für nur ein Jahr Robert Reimer, heute Dirigent am Theater in Duisburg. Für 19 Jahre stand Raymond Janssen, der das Repertoire des Orchesters durch konzertante Opernaufführungen und für die Musiker unkonventionelle Titel erweiterte, am Dirigentenpult. Michael Wülker übernahm das Orchesterdirigat im folgenden Halbjahr. 2011 konnte das Collegium Musicum den professionellen, erfahrenen Dirigenten Peter Sauerwein gewinnen, der u.a. zehn Jahre lang Dirigent am Aachener Stadttheater war. Er gründete 1979 das Junge Aachener Sinfonieorchester (JSO), das er bis heute leitet, verfügt also über langjährige Erfahrung in der Arbeit mit einem Amateurorchester. Seine musikalischen, pädagogischen und didaktischen Fähigkeiten schätzen die Musiker des Collegium Musicum sehr und lassen sich gerne zu neuen Höchstleistungen anspornen.

Die Organisationsstruktur unseres Orchesters hat sich im Laufe der Zeit mehrfach geändert. Zu Beginn war es dem „Kulturwerk Köln – Aachen“ angeschlossen, ab 1947 der "Volkshochschule des Kreises Jülich" und nach deren Auflösung bis 1965 der "Volkshochschule Jülich" (VHS). Die orchesterbezogene Termingestaltung sowie die notwendigerweise eigenständigen Programmentscheidungen passten nicht in das Organisationsmuster der VHS, so dass das Collegium Musicum aus der VHS austrat. Bis 1986, als Georg Bischof das Dirigentenamt niederlegte, liefen die Konzerte organisatorisch unter „Kulturveranstaltungen der Stadt Jülich“. Dieser Service wurde dann seitens des Kulturamtes der Stadt aufgekündigt. Die neue und aktuelle Organisationsform ist seit 1987 der eingetragene, gemeinnützige Verein „Collegium Musicum Jülich, e.V.“ Das Orchester finanziert sich durch die Beiträge der aktiven und inaktiven Mitglieder, durch die Einnahmen aus den Konzerten sowie durch Sponsorengelder. Schüler und Studenten sind beitragsfrei.