Gaten fikk opprinnelig navnet Nordre Tvergate i kommunestyret 27. august 1858. På hjørnet av Nordre Tvergade og Mellom Keisemark i nr. 34 bodde på den tiden skipsbyggmester J. H. Paaske og i hans tid het gaten uoffisielt Paaskebakken. Da han solgte huset til kommandørkaptein Gustav Mørch skiftet navnet til Mørchebakken, som seinere ble gatens offisielle navn.
Mørch var stasjonert i Horten til 1902 og tjenestegjorde ved marinens artilleri, da han ble utnevnt til sjef for distriktet i Bergen. I sin lange tid i Horten var han varaordfører (1890 og 91) og ordfører (1892-93).