Anderson blev født i Philadelphia, Pennsylvania, i 1902. Hun begyndte at synge i kirken i en tidlig alder og viste stort talent. Hun studerede musik på Philadelphia Musical Academy og senere på Juilliard School i New York City. I 1925 fik hun sin professionelle debut i New York City.
Andersons karriere var succesfuld fra starten. Hun turnerede i USA og Europa og optrådte i nogle af verdens mest prestigefyldte koncertsale. Hun indspillede også flere albums og optrådte i flere film.
På trods af hendes succes stod Anderson over for betydelig racediskrimination gennem hele sin karriere. Hun blev ofte nægtet muligheden for at optræde i visse spillesteder på grund af hendes race. I 1939 skulle hun optræde i Constitution Hall i Washington, D.C., men Daughters of the American Revolution (DAR), som ejede hallen, nægtede at tillade hende at optræde på grund af hendes race. Denne beslutning udløste et nationalt ramaskrig, og Anderson udførte til sidst en koncert på trappen til Lincoln Memorial.
Andersons koncert ved Lincoln Memorial var et stort vendepunkt i borgerrettighedsbevægelsen. Det var med til at bringe national opmærksomhed på spørgsmålet om raceadskillelse og inspirerede folk til at kæmpe for lige rettigheder. Anderson fortsatte med at optræde gennem hele sit liv, og hun blev et symbol på håb og mod for afroamerikanere.
Anderson blev tildelt adskillige hædersbevisninger og priser for sit arbejde, herunder Presidential Medal of Freedom, den højeste civile hæder i USA. Hun døde i Portland, Oregon, i 1993.