Den 12. oktober 1923 blev der ved Viborg Sygehus afsløret en buste af Dr. Med. P.W. Heiberg. Retspræsident Friis holdt tale ved afsløringen, som blev overværet af diverse honoratiores, blandt andre den danske gesandt for Island minister Bøggild og frue, redaktør Emil Opffer, den Heiberske familie, læger og kunstneren Harald Quistgaard, som havde lavet busten.

På bustens sokkel står der: Stiftsfvsikus Dr. Med. P.W. Heiberg, Overlæge, ved Viborg amts og bys sygehus, fra 1879 til 1916. Rejst af taknemmelige venner og patienter.