Em 1944 vai para Nova York, a fim de estudar no Institute of Musical Art, atual Juilliard School. Ali toca com o saxofonista Charlie Parker, o pai do bebop (primeiro estilo do jazz moderno), Dizzy Gillespie e outros até 1948, quando se torna o líder de sua própria banda, com nove componentes.
Muda então do bebop para estilos mais experimentais e passa a ser o mais admirado instrumentista do pós-guerra. Introduziu o estilo cool jazz: introvertido, melancólico, de lirismo expressivo (como em Round About Midnight, 1955), com novas estruturas modais (Milestones, 1958), solos em orquestrações elegantes (Porgy and Bess, 1958) e fusão de harmonias de jazz com instrumentos e ritmos do rock (In a Silent Way, 1969).
Depois de se aposentar por seis anos, por cause de problemas de saúde, retoma a carreira no Kool Jazz Festival, de Nova York, 1981. Vem ao Brasil em 1974 e 1986. Publica em 1989 sua autobiografia. Faz a última apresentação no Festival de Montreux em 1991, ano de sua morte.