Gaten er oppkalt etter Karl Johan Knudsen som var borgermester (en tittel som senere ble omgjort til rådmann) i Horten fra 1922 (konstituert fra 1919). Han hadde denne jobben frem til 1940 da han på grunn av sykdom søkte avskjed.
Han var hortenser av fødsel og snekker på Verftet da han i 1908 kom med i bystyret, og fra 1911 i formannskapet. I 1914 ble han ordfører i Horten og den første valgte Arbeiderpartiordføreren i en Vestfold by. Var ordfører i 1914 til 1915 og 1917 til 1918. Han var bestyrer i Horten Kooperative da han i 1919 ble konstituert som borgermester