Den moderne trombonen sporer sin slekt direkte til sackbut, et renessanse- og barokk-blekkblåsinstrument som allerede utstyrt med den definerende skyvemekanismen. Over århundrer transformerte nøkkelmodifikasjoner sackbuten til den vielseitige, kraftige trombonen vi kjenner i dag.
Oppstått i 1400-tallet, hadde sackbuten (fra fransk sacquer» «trekke» og bouter» «dukke») en smalere bore, mindre bell og en mer delikat tone enn sin etterkommer. Den var bredt brukt i sakral og hoffmusikk, ofte fordoblet vokale stemmer i korer og ensembler.
I slutten av 1600-tallet la instrumentmakere til en annen skyve (stemmeskyven), som betraktelig økte instrumentets tonehøydefleksibilitet og tillot mer presis intonasjon. Denne innovasjonen markerte overgangen fra sackbut til tidlig trombone.
Ved 1700-tallet gjorde trombonens robuste projeksjon den til en naturlig passform for militære musikkkorps, der den la tyngde til seremonielmusikk. Komponenter som Mozart, Beethoven og Berlioz inkluderte den snart i orkesterverk, og sementerte dens rolle i det symfoniske palett.
1800-tallet så videre forbedringer – vidre bore, større bell, vannventil, og forbedret skyveaksjon – som førte til tenor- og basstrombonene som brukes i dag. Instrumentet forblir essensielt i orkestre, blåseensembler, jazzensembler og populærmusikk.