Olsson blev født i Wallasey, Cheshire, England. Han begyndte at spille trommer som 12-årig og spillede i flere lokale bands, før han kom til Johns band i 1970. Han har spillet på alle Johns studiealbum siden da og har også turneret meget med ham.
Ud over sit arbejde med John har Olsson også spillet trommer for andre kunstnere, herunder George Harrison, Ringo Starr og Stevie Wonder. Han har også udgivet to soloalbum, "Nigel Olsson" (1975) og "Move the Universe" (1980).
Olsson anses for at være en af de bedste trommeslagere indenfor rock and roll. Han er kendt for sin solide tidtagning, sit kraftfulde trommespil og sin evne til at blande sig med de andre instrumenter i bandet. Han er blevet optaget i Modern Drummer Hall of Fame og Rock and Roll Hall of Fame.