Viborg blev først fast garnisonsby i 1865, indtil da havde byen i kortere eller længere perioder huset forskellige hærafdelinger. Under Den store nordiske Krig 1709-1720 havde der været forskellige indkvarteringer og efter landmilitsens genoprettelse i 1733 var Viborg samlingssted for en af det nørrejyske infanteriregiments tre bataljoner. Op igennem 1700-årene var der indkvarteringer af forskellige hærafdelinger, hvor der ofte fulgte en del uro og ulemper med i kølvandet. Det fortsatte på denne måde indtil afslutningen på krigen i 1864, hvor 9. og 14. bataljon fik hjemsted i Viborg. I 1865 kom også 6. og 8. bataljon hertil fra Slesvig og Kiel, hvilket medførte indkvarteringsproblemer, indtil en gruppe handlende købte Guldbergs gamle klædefabrik i Piebengans og ombyggede den til soldaterboliger.

Stedet fik navnet Kompagnigården og gaden skiftede navn til Kompagnistræde. Byen satte Gammel Vagt i stand og byggede et krudthus ved eksercerpladsen samt indrettede et primitiv hospital i Sct. Mogens Gade. I 1889 indrettede militæret sig i det da nedlagte sygehus i Grønnegade. Soldaterne forblev privat indkvarterede indtil ca. 1925, hvor et egentlig kasernebyggeri omsider blev til virkelighed, men først i 1935 stod de sidste mandskabsbygninger færdige. I 1937-1940 afsluttedes det store kasernebyggeri med, at staten byggede en administrationsbygning med bolig for regimentschefen. Et nyt eksercerhus og en bygning med befalingsmandsboliger kom også til. Herefter ophørte garnisonens brug af Kommandogården i Grønnegade.