W wieku dziesięciu lat jego rodzina osiedliła się w San Diego, gdzie chłopiec poznał Eda Douglasa i Larry’ego Murraya, członków grupy bluegrassowej The Scottsville Squirrel Barkers. Wówczas zawarł przyjaźń z osiemnastoletnim Chrisem Hillmanem – grajkiem na mandolinie, z którym łączyła go zażyła relacja przez długie lata życia. Niestety jego kariera z zespołem nie miała okazji rozwinąć się, gdyż w 1964 roku rodzina przeprowadziła się na Florydę, gdzie Leadon uczęszczał do Gainesville High School. Nauka w liceum zaowocowała poznaniem Dona Feldera. Dołączył do jego zespołu The Coninentals, która właśnie straciła gitarzystę.Trzy lata później z Berniem skontaktował się Larry Murray z propozycją dołączenia Leadona do jego dopiero co powstałej grupy Hearts&Flowers. Zgodziwszy się Bernie przeprowadził się do Kalifornii, gdzie zainspirował się rozwijającą się muzyką folkowo-country rockową sceną. Nagrał wraz z zespołem album „Of Horses, Kids and Forgotten Women” dla wytwórni płytowej Capitol. Nagranie okazało się być lokalnym hitem jednak nie nadawało się do zaistnienia na narodowej liście przebojów. W rok od powstania zespół rozpadł się.
W roku 1968 Leadon zaprzyjaźnił się z legendą banjo – Dougiem Dillardem. Znajomość zaowocowała współpracą podczas nagrywania albumu Dillard&Clark, na którym Bernie zaistniał dzięki swojemu ciepłemu i oryginalnemu wokalowi oraz talentowi gry na wielu instrumentach. W roku 1969 Bernie opuścił zespół, kosztem wstąpienia do The Flying Burrito Brothers wraz z Chrisem Hilmanem i Gramem Parsonsem. Nagrał wraz z nimi dwa albumy – „Burrito Deluxe” oraz „The Flying Burrito Bros”. W roku 1971 artysta opuścił zespół z powodu braku sukcesów komercyjnych pomimo dwóch wydanych krążków.W ten sposób dołączył do The Eagles, który ukształtował jego karierę oraz rozwinął w nim zmysł country-rockowy. Zespół wypracował sobie dzięki dołączeniu Leadona nowy styl. Artysta zaproponował bowiem akustyczne brzmienia country i bluegrassu. Dzięki “Take It Easy”, “Peaceful Easy Feeling” i “Witchy Woman” zespół spotkał się z ogromnym uznaniem, a Bernie doceniony został dzięki swojemu talentowi gry na banjo, gitarze elektrycznej, B-Benderze oraz wokalowi. Po nikłym sukcesie „Desperado” grupa postanowiła odstąpić od stylu country i trzeci album „On The Border” okazał się strzałem w dziesiątkę. Wpłynęło na to dołączenie do Eagles Dona Feldera oraz powstanie utworu „My Man” – wzruszającej piosenki, mająca być ukłonem w kierunku zmarłego przyjaciela Berniego – Grama Parsonsa. W roku 1975, tuż po pojawieniu się „One of These Nights” Leadon opuścił zespół, który znacznie odstawał od preferowanego przez niego stylu country i bluegrassu.
Oderwał się jednocześnie od ciągłego koncertowania, nagrywania i zażywania narkotyków, jakie szerzyło się w zespołach rockowych. Zawiesił działalność do roku 1977, w którym wystąpił z Michaelem Georgiadesem na jego pierwszym solowym albumie „Natural Progressions”. W roku 1985 nagrał album „Ever Call Ready” wraz z Chrisem Hilmanem i Alem Perkinsem, a także tymczasowo współpracował z Nitty Gritty Dirt Band.
W roku 1998 ponownie zjednoczył się z The Eagles z powodu dołączenia zespołu do Rock and Roll Hall of Fame. Wraz z siedmioma byłymi i aktualnymi członkami grupy wykonał „Take it Easy” i „Hotel California”.
Dziś Bernie London mieszka w Nashville, w Tennessee, gdzie jest producentem i cenionym muzykiem, uważanym za pioniera stylu country-rock.