Efter sin eksamen fra Royal Academy of Music fik Jones sin professionelle debut i 1971 i en produktion af Figaros bryllup på den walisiske nationalopera. Han fortsatte derefter med at spille hovedroller i en række operaer, herunder La bohème, Tosca og Rigoletto.
I 1980'erne begyndte Jones at optræde i musikteaterproduktioner, herunder Les Misérables, The Phantom of the Opera og Sweeney Todd. Han har også medvirket i en række film, herunder The Great Escape (1963), Zulu (1964) og Clash of the Titans (1981).
Ud over sit arbejde inden for opera og musikteater har Jones også haft en succesfuld karriere som tv-vært. Han har været vært for en række shows, herunder The Alan Jones Show, Songs of Praise og The Voice UK.
Jones har været gift med sin kone, Anne, siden 1973. De har tre børn sammen, heriblandt skuespilleren og sangeren Alexander Armstrong.
Jones har vundet adskillige priser gennem sin karriere, herunder en Grammy Award, en Olivier Award og en Tony Award. Han blev også slået til ridder i 2003 for sine tjenester til musik og drama.