Horten kunstforening eier Kihle-galleriet på Apenestunet kunst- og kultursenter. Gjennomåret er det flere kunstutstillinger og andre kulturarrangementer i galleriet. Gjennom de siste tiårene har kunstforeningen hatt fire hoved utstillinger med anerkjente kunstnere.
Kihle-galleriet sto ferdig i 1987 og i tillegg til galleriet er også Harald Kihle kunstmuseum lokalisert i bygningen. Kihle-galleriet er tegnet av Ragnar Korneliussen.