Kanalen er anlagt mellom Oslofjorden og Indre havn ble anlagt for å skape en kort forbindelse for rokanonbåter og lignende fartøy. Samtidig skulle den fungere som en del av forsvarsverkene på marinestasjonen. Byggingen av Kanalen ble utført fra 1857 til 1863. Kanalen er 878 meter lang og steinsatt på sidene. Kanalanlegget er et viktig teknisk kulturminne som det finnes få tilsvarende av i Norge.
Kanalen ble gravd ut med spade og trillebør. I tillegg til forsvarsbetydningen gir kanalen sirkulasjon av vann til Indre havn. Kanalen ble opprinnelig beplantet med popler langs kantene disse ble fra 1916 til 1920 erstattet av bøketrær. Kanalhavnen (fyllinga) med moloer ble anlagt samtidig, sist nevnte ved hjelp av fyllmasse fra kanalen.
I 1996-1998 ble Kanalen rensket for miljøgifter og istandsatt