Bolin ble født i Sioux City, Iowa. Han begynte å spille gitar i en alder av seks og i en alder av 17 spilte han profesjonelt i lokale band. I 1969 ble han med i bandet Zephyr, som ga ut to album før de ble oppløst i 1971. Bolin ble deretter med i James Gang, og erstattet Joe Walsh. Han spilte inn tre album med bandet før han dro i 1973.
I 1975 sluttet Bolin seg til Deep Purple, og erstattet Ritchie Blackmore. Han spilte inn ett album med bandet, Come Taste the Band, før han dro i 1976. Bolin døde av en overdose av narkotika i Miami Beach, Florida, 4. desember 1976, 25 år gammel.
Bolin var en meget dyktig gitarist som ble påvirket av et bredt spekter av musikere, inkludert Jimi Hendrix, Eric Clapton og Jeff Beck. Han var kjent for sin flytende spillestil og sin evne til å skape komplekse melodier og soloer. Han var også en talentfull låtskriver og vokalist.
Bolins død var et stort tap for musikkverdenen. Han var en begavet musiker som hadde potensialet til å bli en av de største gitaristene i sin generasjon.