Billie Joe dorastał w Rodeo w Kalifornii jako najmłodsze z sześciorga dzieci Andrewa Armstronga i Ollie Jackson. Kiedy Billie miał zaledwie dziesięć lat jego ojciec, muzyk jazzowy i kierowca Safeway Inc, zmarł na raka przełyku. Lata później artysta skomponował utwór "Wake Me Up When The September Ends", wykonany ku pamięci zmarłego Andy'ego.Przygodę z muzyką Armstrong rozpoczął w szkole podstawowej, gdzie nauczycielka zechęciła go do wykonania utworu "Look For Love" dla Fiat Records. Tuż po śmierci ojca poznał Mike Dirnta, z którym zaprzyjaźnił się i podzielił uwielbienie do muzyki. Duży wpływ miały na niego wówczas brzmienia punk rocka, którym zainteresowali go bracia, a także The Replacements i Husker Du. Po raz pierwszy Joe wystąpił na żywo w Rod's Hickory Pit w roku 1987. W wieku piętnastu lat wraz z Mikem, Johnem Kiffmeyerem i Alem Sobrante stworzył zespół Sweet Children. W roku 1988 grupa zmieniła nazwę na Green Day, wówczas także wydali swoją debiutancką EPkę "1,000 Hours". Pierwszy krążek "39/Smooth" powstał rok później. Niedługo potem Billie Joe otrzymał propozycję dołączenia do Rancid, jednak Armstrong nie zdecydował się z powodu pasma sukcesów i wzrostu popularności jakim szczycił się wówczas Green Day. Była to dobra decyzja - zespół okrzyknięty został wkrótce najpopularniejszym lat dziewięćdziesiątych i pierwszej dekady nowego stulecia, sprzedając nagrania w nakładzie sześćdziesięciu milionów.Armstrong poświęcał się także współpracy z wieloma innymi artystami. Był współtwórcą utworów The Go-Go - "Unforgiven", Rancid - "Radio", Melissy Auf der Maur - "Do Miss America". Ponadto był producentem albumu The Riverdales. Zaangażowany był także w projekt The Network - "Money Money 2020", wydany dla Adeline Record.
W roku 2002 artysta odbył podróż do Nowego Jorku w celu rozjaśnienia umysłu i znalezienia inspiracji, którą wykorzystałby do tworzenia nowych tekstów utworów. Wynajął małe mieszkanie w East Villgage na Manhattanie, spędzając dnie na długich spacerach i uczestnictwie w jam sessions.
2 lipca 1994 Billie Joe poślubił Adrienne Nesser, matkę dwójki jego dzieci - Josepha Marciano i Jakoba Dangera.