Su confirmación llegó en 1957 cuándo Howlin Wolf invita a Allison a entrar en su banda. Después Freddie King le tomó bajo su protección cuando consiguió un contrato de grabación importante. Allison toca con la banda de King la zona oeste de Chicago.
Trabaja el circuito de clubs durante los últimos años 50 y primeros 60 y graba su primer álbum en solitario en 1965. Firma con Delmark Records en 1967 y publica su álbum de debut, Love Me Mama, al año siguiente.
Su actuación de 1969 en el Ann Arbor Blues Festival tiene muy buena acogida y lo llaman para tocar en el festival en los tres años siguientes. En 1972 firma con Motown Records, siendo uno de los pocos bluesman que lo consiguen.
A mediados de los 70 empieza a visitar Europa y se traslada a Francia en 1977.
Allison era conocido por sus conciertos potentes, con largos solos de guitarra emocionales y sus improvisaciones con su Gibson Les Paul.
