Florey blev født i Adelaide, South Australia, søn af en skoleleder. Han gik på St Peter's College, Adelaide og University of Adelaide, hvor han dimitterede med en bachelorgrad i videnskab i 1921 og en doktorgrad i medicin i 1924.
Efter at have afsluttet sin lægeuddannelse arbejdede Florey på Walter and Eliza Hall Institute of Medical Research i Melbourne, hvor han mødte Ernst Chain. I 1928 flyttede de til Sir William Dunn School of Pathology ved University of Oxford, hvor de begyndte at arbejde på udviklingen af penicillin.
Penicillin var blevet opdaget i 1928 af Alexander Fleming, men det var ikke blevet udviklet til et brugbart lægemiddel. Det lykkedes Florey og Chain at isolere den aktive ingrediens i penicillin og rense den, så den kunne injiceres i patienter. De udviklede også metoder til masseproduktion af penicillin, som gjorde det muligt at bruge det bredt under Anden Verdenskrig.
Florey og Chains arbejde med penicillin reddede utallige liv under Anden Verdenskrig og revolutionerede behandlingen af infektionssygdomme. Florey blev tildelt Nobelprisen i fysiologi eller medicin i 1945, og han blev slået til ridder i 1944.
Florey var også en fremtrædende administrator og underviser. Han fungerede som vicekansler ved University of Oxford fra 1959 til 1962, og han var præsident for Royal Society of London fra 1960 til 1965. Han var også stipendiat ved Australian Academy of Science, American Academy of Arts and Sciences og National Academy of Sciences.
Florey døde af et slagtilfælde i Oxford i 1968. Han betragtes som en af de vigtigste australske videnskabsmænd i det 20. århundrede, og hans arbejde med penicillin har reddet millioner af liv.