Ele frequentou o Instituto de Tecnologia Carnegie e a Juilliard School of Music. No entanto, antes de concluir seus estudos, foi convocado para o serviço militar. Durante a Segunda Guerra Mundial, fez parte da banda da Força Aérea do Exército dos Estados Unidos. Após esse período, conseguiu um emprego com a Orquestra de Glenn Miller. E foi assim que ele começou a sua carreira na música.

O ano de 1962 foi um ano para se recordar para Mancini. O compositor venceu pela primeira vez o Oscar e, para melhorar, ganhou duas estatuetas na mesma noite. Ele ganhou na categoria de Melhor Trilha Sonora Original e na categoria Melhor Canção Original com "Moon River", pelo filme "A Bonequinha de Luxo", um dos maiores clássicos do cinema estrelado por Audrey Hepburn.

Ele conquistou sua terceira estatueta do prêmio mais importante do cinema em 1963 na categoria Melhor Canção Original com a música "Days of Wine and Roses", do filme "Vício Maldito". Depois de muitas outras indicações, ele ganhou o Oscar pela quarta vez em 1983, pela trilha do filme "Vítor ou Vitória?".

Entre suas composições mais conhecidas estão "Baby Elephant Walk", de "Hatari!", as trilhas sonoras de filmes como "A Pantera Cor-de-Rosa", "Solteiro no Paraíso", "Charada", "Canção Querido", "A Corrida do Século", "Uma Lição para Não Esquecer", "Assim É a Vida", "As Férias do Papai", entre muitas outras.

Mancini também compôs trilhas para séries de televisão, como é o caso do álbum "The Music from Peter Gunn" para a série "Peter Gunn". Esse foi, inclusive, seu primeiro disco a vender um milhão de cópias. O álbum conquistou o Grammy de Álbum do Ano em 1959 e se tornou o primeiro álbum a ganhar essa categoria. Em 1998, o álbum foi incluído no Grammy Hall of Fame.

Mancini também se destacou como arranjador e atuou como maestro convidado de diversas orquestras de renome mundial. Ele fazia mais de 50 apresentações por ano, o que resultou em mais de 600 concertos sinfônicos. Entre as orquestras sinfônicas que regeu, estão a Orquestra Sinfônica de Londres, a Filarmônica de Israel, a Boston Pops, a Filarmônica de Los Angeles e a Orquestra Filarmônica Real.

Ao longo da carreira, Mancini gravou mais de 90 álbuns, com diferentes estilos musicais, que iam do big band ao jazz, passando pelo clássico e pelo pop. Desses álbuns, oito deles receberam certificação de ouro pela Recording Industry Association of America, também conhecida como RIAA.

Além disso, Henry Mancini escreveu os livros "Sounds and Scores ? A Practical Guide to Professional Orchestration", que é considerado um clássico na área de orquestração e muito lido por estudantes e apaixonados por música, e sua autobiografia intitulada "Did They Mention The Music?".

Ele trabalhava na adaptação musical para o teatro de "Vítor ou Vitória?" quando faleceu de câncer no pâncreas, em junho de 1994. No ano seguinte, a Sociedade Americana de Compositores, Autores e Editores criou um prêmio com seu nome, concedido a contribuições de destaque na música para cinema.