Anderson ble født i Philadelphia, Pennsylvania, i 1902. Hun begynte å synge i kirken i en tidlig alder og viste stort talent. Hun studerte musikk ved Philadelphia Musical Academy og senere ved Juilliard School i New York City. I 1925 gjorde hun sin profesjonelle debut i New York City.
Andersons karriere var vellykket fra starten. Hun turnerte i USA og Europa, og opptrådte i noen av verdens mest prestisjefylte konsertsaler. Hun spilte også inn flere album og dukket opp i flere filmer.
Til tross for suksessen, møtte Anderson betydelig rasediskriminering gjennom hele karrieren. Hun ble ofte nektet muligheten til å opptre på visse arenaer på grunn av rasen hennes. I 1939 skulle hun etter planen opptre i Constitution Hall i Washington, D.C., men Daughters of the American Revolution (DAR), som eide hallen, nektet henne å opptre på grunn av rasen hennes. Denne avgjørelsen utløste et nasjonalt ramaskrik, og Anderson fremførte til slutt en konsert på trappene til Lincoln Memorial.
Andersons konsert på Lincoln Memorial var et stort vendepunkt i borgerrettighetsbevegelsen. Det bidro til å bringe nasjonal oppmerksomhet rundt spørsmålet om raseskille og inspirerte folk til å kjempe for like rettigheter. Anderson fortsatte å opptre hele livet, og hun ble et symbol på håp og mot for afroamerikanere.
Anderson ble tildelt en rekke utmerkelser og priser for sitt arbeid, inkludert Presidential Medal of Freedom, den høyeste sivile utmerkelsen i USA. Hun døde i Portland, Oregon, i 1993.