Sct. Ibs Gade er opkaldt efter apostlen Jacob, den første af apostlene, som led martyrdøden. Hans lig førtes til Santiago de Compostella i Spanien, hvor der skete mirakler ved hans grav, som i middelalderen blev besøgt af mange pilgrimme også fra Danmark.

I Sct. Ibs Gade er der fundet tegn på intensiv smedevirksomhed tilbage fra 1100-tallet og et par århundreder frem. I 1100 og 1200 har der været en vis bebyggelse omkring de sydlige dele af Sct. Ibs Gade og Sct. Nicolai Gade. I 1200-tallet har der mod nord i Sct. Ibs Gade og i nærheden af Domkirken været plads til at etablere store klosteranlæg. I Sct. Ibs Gade lå i middelalderen en af byens fem byporte, Sct. Ibs Port, og indenfor den, på vestsiden af gaden, lå Sct. Ibs Kirke, ifølge Resens Danske Atlas den nordligste af sognekirkerne. Kirken blev i 1284 overdraget til Johannitterordenen, som anlagde et kloster på en grund ned mod søen, hvor Pilehaven ligger i dag . Da Johan Tausen kom til Viborg i 1525, underviste han Johannittermunkene og prædikede i kirken, men det varede ikke længe, før han blev bortvist på grund af sine “kætterske” tanker.

Gaden omtales både som “Østre Adelgade” (Resen 1675) og “Nedergade”, gaden længst nede mod søen, men på et kort fra før 1750 har den fået navn efter Sct. Ib (Sct. Jacobi). Gaden gik dengang fra hjørnet af Sct. Villads Stræde og til Sct. Ibs Port. Først på et kort fra 1767 har den fået sin nuværende længde.

Omkring 1500-tallet hørte den nord-syd gående akse, som omfattede Sct. Ibs Gade og Riddergade, fortsat til den vigtigste i gadenettet. Johanitterklostret var en betydelig godsbesidder i bymarken, med ladegård og marker ved Sct. Ibs Gade. En brand i 1567 gik hårdt ud over dette område, og Sct. Ibs Gade blev næppe genopbygget som tidligere. I midten af 1600-tallet blev der i Nedergade (Sct. Ibs Gade) indrettet et børnehus for forsømte og forældreløse børn.

I slutningen af 1600-tallet boede i denne gade de mere beskedne håndværkere, som boede til leje i småhuse eller lejligheder. Helt op i midten af 1800-tallet lå der ubebyggede grunde mellem gadens huse, og der var meget landligt, men i begyndelsen af 1900-tallet flyttede mange gårde uden for byen. Dog videreførte avlsbruger Christian Ballund sin slægtsgård i Sct. Ibs Gade nr. 18 indtil omkring 1916, hvor jorden blev solgt til villabebyggelse.

I 1856 åbnede Viborgs andet handelsgartneri i Sct. Ibs Gade nr. 16. Det første var åbnet i 1852 nær Borgvold. I 1917 købte kommunen en grund og byggede alderdomshjemmet “Sct. Ibs Gård”, som blev tegnet af arkitekt Søren Vig-Nielsen. Det blev taget i brug i 1919 og udvidet flere gange i årenes løb.

I mange år var “rundebænken”, en bænk rundt om et træ, på hjørnet af Sct. Ibs Gade og Randersvej kendt som byens samlingssted for folk, der her mødtes til en sludder og måske en is fra iskiosken på hjørnet overfor. Træet med bænken blev fjernet i 1968 i forbindelse med en udvidelse af gadeforløbet.