W wieku dwudziestu jeden lat zastąpił Glenna Schwartza jako prowadzący gitarzysta James Gangu – amerykańskiego trio. Zaistniał wówczas jako twórca niekonwencjonalnych brzmień i kreatywnych riffów oraz przede wszystkim z dynamicznej gry, która okazała się być jego znakiem szczególnym.
W roku 1971 Walsh zdecydował się na odejście z grupy, kosztem stworzenia zespołu Barnstorm. Jego członkami byli Joe Walsh, Joe Vitale, Kenny Passarelli i Rocke Grace. Debiutancki album „Barnstorm” ukazał się na rynku w roku 1972 i zebrał wokół siebie wiele szumu, co jednak nie wpłynęło pozytywnie na jego sprzedaż. Wydany tuż po nim, w roku 1973 „The Smoker You Drink, The Player You get” okazał się jednak ogromnym komerycjnym sukcesem Walsha. Utwór „Rocky Mountain Way” uplasował się na dwudziestym trzeciu miejscu listy czterdziestu najlepszych przebojów Stanów Zjednoczonych. W roku 1974 Barnstorm rozpadło się, a Joe kontynuował swoją solową karierę, mając fundament, gwarantujący mu sukces.W skutek rozpadu The Eagles w roku 1980 Joe skupił się w tym dziesięcioleciu na nagrywaniu kolejnych krążków, które jednak nie przyniosły dużej sprzedaży. W roku 1984 nawiązał znajomość z Paulem Christiem – basistą Mondo Rock, który zaprosił go do Australii w celu występowania z The Party Boys. Jednym z członków zespołu był Kevin Borich, z którym Walsh zaprzyjaźnił się. Przyjąwszy propozycję Joe nagrał z bandem album „You Reed Professional Help”. Po trasie koncertowej promującej krążek pozostał w Australii formując wraz z Waddym Wachtelem, Rickiem Rosasem i Richardem Harleyem grupę Creatures From America. W roku 1989 koncertował z The Party Boys oraz Ringo Starrem, nagrał MTV Unplugged wraz z Dr. Johnem oraz nagrał koncert Etty James i Alberta Collinsa – „Jazzvisions: Jump The Blues Away”. Podczas nagrywania „Homegrown” Walsh tymczasowo dołączył do Herb – zespołu reggae w Nowej Zelandii. Wkrótce jednak odszedł, pozostając głównym wokalistą w utworach „Up All Night”, „It’s Albright” i „Ordinary Average Guys”, który wkrótce przekształcił się w jego solowy przebój „Ordinary Average Guy”.
W późnym roku 1990 Joe był członkiem zespołu The Best, w którego skład wchodzili Keith Emmerson, John Entwistle, Simon Phillips i Jeff Baxter. Grupa koncertowała m.in. na Hawajach i w Japonii, co zaowocowało nagraniami live z występów.
W 1994 Joe powrócił do The Eagles, a rezultatem był album „Hell Freezes Over”, który zebrał pozytywne opinie, świetnie się sprzedał i zaowocował udaną trasą koncertową. Od tej pory Walsh regularnie koncertował wraz z zespołem. Od roku 1995 Joe walczył z alkoholizmem, a jego utwór nagrany w późniejszych latach – „One Day At A Time” – opisuje jego zmagania. W czerwcu 2004 roku wystąpił podczas Eric Clapton’s Crossroads Guitar Festival w Dallas. Cztery miesiące później pojawił się na The Strat Pack – koncercie zorganizowanym z okazji pięćdziesiątej rocznicy istnienia gitary Fender Stratocaster. W roku 2008 poślubił Marjorie Bach, stając się szwagrem Ringo Starra. Córka Walsha – Lucy – odziedziczywszy talent po ojcu wydała w tym samym roku album „Lost in The Lights”.
Podczas swojej kariery Joe Walsh korzystał z gitar Fender Telecaster oraz rozmaitych rodzajów Gibsona Les Paula, czy Cardina.
Do roku 1997 nagrał trzynaście solowych albumów, zaistniał jako muzyk solowy oraz członek trzech zespołów. Wspomagał wielu artystów, w tym m.in. REO Speedwagon, Andy'ego Gibba, Frankiego Millera, Dana Fogelberga, czy Steve'a Winwooda, a także wystąpił w epizodycznej roli więźnia w „The Blues Brothers”.