Po raz pierwszy spotkał Howlin’ Wolfa niedługo przed jego przeprowadzką z Memphis do Chicago w roku 1953. Wówczas zatrudniony gitarzysta Wolfa – Willie Johnson zdecydował się mu nie towarzyszyć. Wolf zatrudnił na jego miejsce Jody’ego Williamsa, a już rok później Huberta, oferując mu stanowisko drugiego gitarzysty. Gdy w roku 1955 Williams odszedł z zespołu, uczynił Sumlina głównym gitarzystą. Rolę tą pełnił do końca kariery Wolfa. Krótką przerwę Hubert zrobił w roku 1956, kiedy występował u boku Muddy’ego Watersa. Chcąc nieustannie polepszać warsztat Huberta, Howlin’ zapisał go na zajęcia z gry na keyboardzie w Chicago Conservatory of Music. Sumlin występował z Wolfem na albumie „The Rockin’ Chair Album”, który zdobył miano trzeciego „Najlepszego Gitarowego Albumu Wszechczasów” wg. Mojo w roku 2004. Po śmierci Wolfa w roku 1976 Sumlin kontynuował pracę z pozostałymi członkami zespoł nieżyjącego artysty pod nazwą „The Wolf Pack”. Współpraca ta przetrwała do roku 1980.
Ponadto Hubert tworzył muzykę sam, posługując się własnym nazwiskiem. Rozwinął się jako muzyk sesyjny, a efektem jego ciężkiej pracy był wydany w roku 2004 “About Them Shoes”. W tym samym roku przeszedł ciężką operację płuc. Tuż po rekonwalescencji wznowił działalność muzyczną, poświęcając się do końca swoich dni.
W roku 2008 artysta dodany został do „Blues Foundation Hall of Fame”. Ponadto wraz z Henrym Grayem, Alvinem Jonesem, Samem Layem i Colinem Lindenem otrzymał w roku 1999 nominację do nagrody Grammy za album „Tribute to Howlin’ Wolf”. Kolejną zaszczytną nominację dostał za „Legends” w roku 2000 wraz z Pinetopem Perkinsem. Sześć lat później za swój indywidualny projekt „About The Shoes”, a w roku 2010 za współudział w „Live! In Chicago” Kenny’ego Wayne’a Shepherda. Muzyk zdobył liczne nagrody Blues Music Awards, a także pełnił rolę jurora w piątej edycji „Independent Music Awards”, wspierającego młodych niezależnych artystów. Hubert uplasował się na czterdziestym trzecim miejscu rankingu „100 Najlepszych Gitarzystów Wszechczasów” sporządzonego przez „Rolling Stone”.
Sumlin zmarł 4 grudnia 2011 roku w szpitalu w Wayne w New Jersey wskutek niewydolności serca. Miał osiemdziesiąt lat. Koszty pogrzebu pokryli Keith Richards i Mick Jagger.