Sousa ble født i Washington, D.C. i 1854. Han begynte å studere musikk i en tidlig alder og viste stort talent. Han begynte i United States Marine Band i 1872 og steg raskt gjennom gradene. I 1880 var han dirigent for bandet.
Sousa ledet Marine Band i 35 år, i løpet av denne tiden komponerte han mange av sine mest kjente marsjer, inkludert «The Stars and Stripes Forever» og «Semper Fidelis». Han skrev også flere operetter og andre verk.
Sousa trakk seg fra Marine Band i 1929, men han fortsatte å komponere musikk til sin død i 1932. Musikken hans fremføres fortsatt av band og orkestre over hele verden, og han regnes for å være en av tidenes største kapelmestere.