Horten kunstforening eier Kihle-galleriet på Apenestunet kunst- og kultursenter. Gjennom året er det flere kunstutstillinger og andre kulturarrangementer i galleriet. Gjennom de siste tiårene har kunstforeningen hatt fire hovedutstillinger med anerkjente kunstnere.
Kihle-galleriet sto ferdig i 1987, og i tillegg til galleriet er også Harald Kihle kunstmuseum lokalisert i bygningen. Kihle-galleriet er tegnet av Ragnar Korneliussen.