Johanniterklostret nævnes første gang i 1285, hvor greven af Eberstein skænkede gods til klostret. Formodentlig er klosteret stiftet kort tid i forvejen. Klosteret lå i byens nordligste del på østsiden af Sct. Ibs Gade på en grund, der rækker fra nutidens Pilehaven til Søvænget. På den nordlige del af grunden, nord for selve klosteranlægget, lå et hospital kaldet Sct. Hans Hospital. På reformationstiden ejede klostret jord på begge sider af gaden. Udgravninger af det centrale anlæg tyder på, at klostret har dannet en regelmæssig firkant med en ca. 55 m lang klosterkirke som nordfløj.

Ifølge Resens Atlas Danicus var kirken, der havde et tårn i vest og to kapeller på nordsiden, bygget med stor pragt, og et bevaret teglstenskapitæl vidner også om forfinet arkitektur. Syd for klosteranlægget er der fundet rester af et par bindingsværkshuse, som muligvis har dannet en ekstra gård ud for østfløjens sydende. Kirkegården lå nord og øst for klosterkirken.

Ved reformationen blev klosteret nedlagt, og klostergodset inddraget under kronen og gjort til et len. I 1552 bestemte Christian 3., at klosterkirken skulle indrettes til domhus for landstinget. I 1576 blev dele af den tidligere bispegård på nord for domkirken tilbudt adelen som domhus, og i 1578 bestemtes det, at de tidligere klosterkirken og klosterbygningerne måtte nedrives.