Skolen menes oprettet samtidig med, at Viborg blev bispesæde omkring år 1060, da der var brug for at uddanne drenge og unge mænd til kirkelig tjeneste. Den lokale helgen Kjeld (død 1150) fungerede som lærer ved skolen, inden han blev indviet til præst af biskop Eskil. Undervisningens indhold var tilpasset kirkens behov med bibellæsning, salmesang og bønner, hvilket alt sammen foregik på latin. Rektor blev udpeget af bispen og skulle samtidig være præst i en af byens 12 sognekirker.

Efter reformationen i 1536 blev skolens forhold fremover reguleret af kongens “Kirkeordinans” udstedt i 1537. Overgangen til statsskole betød en forringelse af såvel skolens økonomiske grundlag som undervisningen, og der var hyppige rektorskift i de næste hundrede år. Skolen lå dengang i Skolestræde 2, men i 1742 blev den forfaldne skolebygning solgt, og undervisningen flyttede til domhusets underetage.

I 1772 flyttede skolen ind i den tidligere stiftsamtmandsbolig i Sct. Mogens Gade 1, der var blevet ombygget til at rumme undervisningslokaler og boliger for rektor og lærerne. I 1783 fik skolen lov til at anlægge haver på det tilstødende areal, der lå øde efter branden i 1726. Det blev til Latinerhaven, og i 1800 blev Rektors Lysthus opført.

Ved en skolereform i 1775 kom der påbud om at oprette skolebiblioteker, og det blev udgangspunkt for skolens fornemme bibliotek. Samme skolereform åbnede også for, at enkelte fag blev læst på dansk. 1800-årene var præget af reformiver, som affødte en række skolereformer, og efterhånden blev også dansk og moderne sprog indført.
Ved en skolelov fra 1903 fik piger adgang til gymnasiet, og i 1904 startede den første pige på Katedralskolen.

I årene 1922-1926 blev der bygget en ny skolebygning, tegnet af professor Hack Kampmann (1865-1920) og fuldført af hans søn, arkitekt Christian Kampmann, opført på marker, som havde tilhørt Brostrøms planteskole. Skolen ligger på hjørnet af Skivevej og Aalborgvej, og den blev taget i brug i 1926.