Florey ble født i Adelaide, Sør-Australia, sønn av en skolerektor. Han gikk på St Peter's College, Adelaide og University of Adelaide, hvor han ble uteksaminert med en Bachelor of Science-grad i 1921 og en doktorgrad i medisin i 1924.
Etter å ha fullført sin medisinske grad jobbet Florey ved Walter and Eliza Hall Institute of Medical Research i Melbourne, hvor han møtte Ernst Chain. I 1928 flyttet de til Sir William Dunn School of Pathology ved University of Oxford, hvor de begynte å jobbe med utviklingen av penicillin.
Penicillin ble oppdaget i 1928 av Alexander Fleming, men det hadde ikke blitt utviklet til et brukbart medikament. Florey og Chain lyktes i å isolere den aktive ingrediensen i penicillin og rense den slik at den kunne injiseres i pasienter. De utviklet også metoder for å masseprodusere penicillin, som gjorde det mulig å bruke det mye under andre verdenskrig.
Florey og Chains arbeid med penicillin reddet utallige liv under andre verdenskrig og revolusjonerte behandlingen av infeksjonssykdommer. Florey ble tildelt Nobelprisen i fysiologi eller medisin i 1945, og han ble riddet i 1944.
Florey var også en fremtredende administrator og pedagog. Han var visekansler ved University of Oxford fra 1959 til 1962, og han var president i Royal Society of London fra 1960 til 1965. Han var også stipendiat ved Australian Academy of Science, American Academy of Arts and Sciences , og National Academy of Sciences.
Florey døde av hjerneslag i Oxford i 1968. Han regnes som en av de viktigste australske forskerne på 1900-tallet, og arbeidet hans med penicillin har reddet millioner av liv.