Etter at han ble uteksaminert fra Royal Academy of Music, debuterte Jones i 1971 i en produksjon av The Marriage of Figaro ved Welsh National Opera. Deretter fortsatte han med å spille hovedroller i en rekke operaer, inkludert La bohème, Tosca og Rigoletto.
På 1980-tallet begynte Jones å dukke opp i musikkteaterproduksjoner, inkludert Les Misérables, The Phantom of the Opera og Sweeney Todd. Han har også dukket opp i en rekke filmer, inkludert The Great Escape (1963), Zulu (1964) og Clash of the Titans (1981).
I tillegg til arbeidet innen opera og musikkteater, har Jones også hatt en suksessfull karriere som TV-programleder. Han har vært vertskap for en rekke show, inkludert The Alan Jones Show, Songs of Praise og The Voice UK.
Jones har vært gift med sin kone, Anne, siden 1973. De har tre barn sammen, inkludert skuespilleren og sangeren Alexander Armstrong.
Jones har vunnet en rekke priser gjennom sin karriere, inkludert en Grammy Award, en Olivier Award og en Tony Award. Han ble også riddet i 2003 for sine tjenester til musikk og drama.