Navnet kom fra en 1968-kommentar fra The Whos trommeslager Keith Moon. Under en USA-turne med The New Yardbirds (Jimmy Pages etter-Yardbirds-gruppe), skjønte Moon at prosjektet ville «go down like a lead zeppelin» (altså en blyballong – en katastrofe).
Page husket det. Manager Peter Grant foreslo å fjerne «a» i «lead» for å unngå feiluttale («leed» vs «led»). Led Zeppelin var født – symboliserer tungt (bly) men sværende (zeppelin), perfekt for å fange lyden deres.