Landon blev født Eugene Maurice Orowitz i Forest Hills, New York. Hans far, Eli Maurice Orowitz, var en jødisk tøjfabrikant, og hans mor, Peggy O'Neill, var en katolsk skuespillerinde og danser. Landon havde fire søskende:David, Robert, Tom og Cheryl.
Landon begyndte at optræde i en alder af 14 og medvirkede i flere Broadway-produktioner. Han skrev kontrakt med Warner Bros. i 1956 og fik sin filmdebut i filmen _God Is My Partner_ (1957). Han fortsatte derefter med at spille hovedrollen i en række andre film, herunder _Marjorie Morningstar_ (1958), _The Legend of Tom Dooley_ (1959) og _The Longest Day_ (1962).
I 1959 blev Landon castet som Little Joe Cartwright i NBC Western tv-serien _Bonanza_. Showet var et kæmpe hit og kørte i 14 sæsoner, hvilket gjorde Landon til et kendt navn. Efter at _Bonanza_ sluttede i 1973, fortsatte Landon med at spille hovedrollen i adskillige lavet-til-tv-film og tv-serier, herunder _The Little House on the Prairie_ (1974-1983), _Highway to Heaven_ (1984-1989) og _Us_ (1991) .
Landon var også en succesfuld instruktør og producer. Han instruerede en række afsnit af _Bonanza_ og _Little House on the Prairie_, og han instruerede også adskillige lavet-til-tv-film. Han producerede også flere tv-serier, herunder _The Love Boat_ (1977-1987), _Highway to Heaven_ og _Us_.
Landon døde af kræft i bugspytkirtlen den 1. juli 1991 i en alder af 54. Han efterlader sin kone, Cindy Landon, og ni børn:Mark, Josh, Jason, Michael, Shawna, Christopher, Cheryl, Erin og Kelly.