Nessa época aprende a tocar violão sozinho, desenvolvendo um estilo pessoal, e compõe suas primeiras canções, como No Sertão (1930). Começa a cantar no rádio vez ou outra e, em 1935, estréia o programa Caymmi e Suas Canções Praieiras na Rádio Clube da Bahia.
Em 1938 tenta a sorte no Rio de Janeiro. Consegue apresentar-se na Rádio Transmissora cantando o samba O Que É Que a Baiana Tem?, mais tarde incluído no filme Banana da Terra (1938), com Carmen Miranda, e que alcança sucesso nacional.
Em 1939 passa a atuar na prestigiosa Rádio Nacional, onde conhece a caloura Stella Maris, com quem se casa. Emplaca nos anos 40 e 50 sucessos como Samba da Minha Terra (1940), Rosa Morena (1942), Marina (1947), Não Tem Solução (1952), João Valentão (1953), Maracangalha (1956).
No fim da década, ressurge em nova roupagem, regravado pelo bossa-novista João Gilberto. Nos anos 70, condecorado pelo governo baiano, apresenta Oração para Mãe Menininha (1972) e Modinha para Gabriela, da trilha sonora da novela Gabriela (Rede Globo). Com problemas cardíacos, apresenta-se esporadicamente em shows ao lado dos filhos Dori, Nana e Danilo, também músicos de sucesso.