Como muitos outros pianistas de jazz, Joe Sample começou na era do hard bop tocando um instrumento acústico e se voltou para instrumentos elétricos e eletrônicos durante a era do fusion. Ambas as contribuições de Sample se deram em grande parte pelo grupo The Jazz Crusaders — nos anos 50, com Wayne Henderson, Wilton Felder e Stix Hooper, calcados no estilo de Art Blakey. Nos anos 70, a banda se voltou para o jazz-funk e abandonou o “jazz” do nome. Ao contrário da música dos Crusaders, a música do pianista e tecladista era normalmente mais intimista e delicada.