Criado no Complexo do Alemão, Elymar trabalhou como ajudante de feira e cantor de churrascaria, entre outras atividades, antes de se consagrar no meio dos maiores nomes da MPB. Até que em 1985 ele resolveu alugar o Canecão, mais famosa casa de shows do país na época, contraindo uma dívida de antigos 40 mil cruzeiros (o equivalente hoje a R$ 200 mil) - dívida que saldou com a bilheteria daquela mesma noite. A seu favor, Elymar tinha algumas aparições no "Cassino do Chacrinha" e em "A Grande Chance", programa da extinta TV Tupi apresentado por Flávio Cavalcante. Naqueles dias, Maria Bethânia fazia uma temporada no local. No segundo show dele, a cantora estava na plateia e fez questão de ir até o camarim cumprimentá-lo. Um ano depois, chegava às lojas seu primeiro LP: "Elymar no Canecão".
Em 1988, Elymar participou do musical "Evita", em São Paulo, no papel de Che Guevara, cuja atuação lhe rendeu o prêmio de melhor ator. O primeiro a apostar no sucesso do artista foi Cauby Peixoto. Os dois viraram amigos. Já um artista consagrado, em outubro de 2016 comemorou aniversário com a gravação de um DVD no Vivo Rio, que teve as participações de Alcione, Dudu Nobre, Mumuzinho, Fundo de Quintal, Imperatriz Leopoldinense, Roberta Miranda, Neguinho da Beija-Flor, Diogo Nogueira, Leny Andrade, Ivete Sangalo, Padre Omar, Altay Veloso, Alexandre Pires, Cezinha do Acordeon, Fafá de Belém e Zeca Pagodinho.
O samba sempre caminhou lado a lado com esse leopoldinense de coração. Em 2014 Elymar assinou, em parceria com mais quatro amigos, a composição "Arthur X: O Reino do Galinho de Ouro na Corte da Imperatriz", que homenageou o jogador Zico na Marques de Sapucaí. Em 2019, o cantor ganhou novamente o samba que a Imperatriz desfilou: "Me dá um dinheiro aí". Ele próprio já havia sido enredo das escolas cariocas Em Cima da Hora (1991) e Império da Tijuca (1998) e das agremiações paulistas Camisa Verde (1999) e Acadêmicos do Tucuruvi (2000). Em 2010, recebeu um prêmio do mundo do samba. O troféu, que levava seu nome, foi entregue pela ala de compositores da escola de samba carioca União da Ilha do Governador.