Sousa blev født i Washington, D.C. i 1854. Han begyndte at studere musik i en tidlig alder og viste stort talent. Han sluttede sig til United States Marine Band i 1872 og steg hurtigt gennem graderne. I 1880 var han dirigent for bandet.
Sousa ledede Marine Bandet i 35 år, hvor han komponerede mange af sine mest berømte marcher, herunder "The Stars and Stripes Forever" og "Semper Fidelis". Han skrev også flere operetter og andre værker.
Sousa trak sig tilbage fra Marine Bandet i 1929, men han fortsatte med at komponere musik indtil sin død i 1932. Hans musik bliver stadig fremført af bands og orkestre over hele verden, og han anses for at være en af de største kapelmestre gennem tiderne.