Inicia sua carreira em 1968, quando classificou três músicas num festival da canção. Em 1969 lança o primeiro LP, Egberto Gismonti. No ano seguinte grava na França, Itália e Alemanha. Além de piano, combina sons de órgão, sintetizador, violão e flautas indígenas em seus arranjos.
Grava vários discos no Brasil e no exterior e faz música para cinema, balé, teatro e televisão. Alguns de seus discos mais conhecidos são Corações Futuristas (1976), Nó Caipira (1978), Dança das Cabeças (1977), Mágico (1980) e Feixe de Luz (1988).
Em 1997 lança o CD Meeting Point, gravado na Lituânia. Ao mesmo tempo trabalha na composição de músicas para a peça Les Bonnes, de Jean Genet, a ser encenada em Paris no ano seguinte. Mora no Rio e tem dois filhos: Alexandre, 18 anos, violonista, e Bianca, 17 anos, pianista.
Ambos estréiam no palco, acompanhando o pai, em maio de 1998. É um dos poucos brasileiros a possuir as matrizes e o direito de comercialização de todos os seus 51 discos, além de dirigir sua própria gravadora, a Carmo.