En 1955, Adderley dirige la fanfare d'un lycée de Floride lorsqu'il effectue un voyage à New York. Lors d'une soirée au Club Bohemia, le public le convainc de rejoindre sur scène le groupe d'Oscar Pettiford. Son jeu fait sensation. Rapidement signé par le label Savoy, il forme un groupe avec son frère Nat, puis rejoint Miles Davis. Il participe à l'enregistrement d'œuvres majeures comme Milestones et le classique Kind Of Blue. Cannonball dirige ensuite son propre groupe. Son jazz bebop influencé par la soul est bien servi par des accompagnateurs de luxe comme Bobby Timmons ou Yusef Lateef.