Três anos mais tarde passa a estudar piano. Em 1861, conhece o compositor Mily Balakirev, que o orienta na composição de sua primeira sinfonia. Graduando-se em 1862, parte numa viagem de volta ao mundo. De volta à Rússia, em 1865, deixa a Marinha e continua a escrever a sinfonia iniciada anos antes.
Suas primeiras obras são bem aceitas e, em 1873, é convidado para ensinar composição e orquestração no Conservatório de São Petersburgo. Entre 1886 e 1890, rege a Sinfônica Russa em suas apresentações na cidade. Compõe três grandes peças orquestrais, Capriccio Espagnol (Capricho Espanhol (1887), Festival de Páscoa (1888) e Scherazade (1888), além das óperas Snegoyrachka (1881) e Le Coq dOr (O Galo de Ouro, 1907).
Como teórico, escreve Manual Prático da Harmonia (1884) e Fundamentos da Orquestração (1913). Sua autobiografia, Minha Vida Musical, é publicada em 1909. Morre em Lyubensk.