Crumbs barndom var fyldt med musik. Han voksede op i et hus fyldt med musikinstrumenter, og han var altid omgivet af musik. Hans far lærte ham at spille klaver, og han opfordrede ham også til at komponere sin egen musik. Crumbs mor var også en talentfuld musiker, og hun spillede ofte klaver med ham.
Crumbs barndom var ikke uden udfordringer. Hans far døde, da han var blot 12 år gammel, og hans mor måtte arbejde hårdt for at forsørge familien. Crumb måtte også håndtere udfordringerne ved at vokse op i det adskilte syd. På trods af disse udfordringer var Crumbs barndom lykkelig, og han krediterer sine forældre for at have indgydt ham en kærlighed til musik.
Crumbs barndomsoplevelser havde en dyb indvirkning på hans musik. Han trak ofte på sine barndomsminder til inspiration, og hans musik er fuld af referencer til det amerikanske syd. Crumbs musik er også kendetegnet ved dens brug af usædvanlige lyde og teksturer, som han ofte skabte ved hjælp af hverdagsgenstande.
Crumbs musik er blevet rost for sin originalitet og sin følelsesmæssige kraft. Han har vundet adskillige priser for sit arbejde, herunder Pulitzerprisen for musik i 1968. Crumbs musik opføres over hele verden, og han anses for at være en af de vigtigste komponister i det 20. århundrede.