Bolin blev født i Sioux City, Iowa. Han begyndte at spille guitar som seksårig, og i en alder af 17 spillede han professionelt i lokale bands. I 1969 sluttede han sig til bandet Zephyr, som udgav to albums, før de gik i opløsning i 1971. Bolin sluttede sig derefter til James Banden og erstattede Joe Walsh. Han indspillede tre albums med bandet, før han forlod i 1973.
I 1975 sluttede Bolin sig til Deep Purple og erstattede Ritchie Blackmore. Han indspillede et album med bandet, Come Taste the Band, før han rejste i 1976. Bolin døde af en overdosis af stoffer i Miami Beach, Florida, den 4. december 1976, i en alder af 25.
Bolin var en meget dygtig guitarist, der var påvirket af en bred vifte af musikere, herunder Jimi Hendrix, Eric Clapton og Jeff Beck. Han var kendt for sin flydende spillestil og sin evne til at skabe komplekse melodier og soloer. Han var også en talentfuld sangskriver og vokalist.
Bolins død var et stort tab for musikverdenen. Han var en begavet musiker, der havde potentialet til at blive en af de største guitarister i sin generation.