Leigh Harline byl nejmladším ze 13 dětí. Jeho rodiče, voják Charles Härlin a jeho manželka Johanna Matilda, pocházeli z vesnice Härfsta ve farnosti Simtuna ve Švédsku. V roce 1888 vstoupili do Církve Ježíše Krista Svatých posledních dnů (Mormon) a v roce 1891 se přestěhovali do Salt Lake City v Utahu. V USA si změnili příjmení na Harline. Narodil se v Salt Lake City a v osmi letech byl pokřtěn jako člen církve LDS.
Harline vystudoval University of Utah a studoval hru na klavír a varhany u dirigenta Mormon Tabernacle Choir J. Spencera Cornwalla. V roce 1928 se přestěhoval do Kalifornie, kde pracoval v rozhlasových stanicích v San Franciscu a Los Angeles jako skladatel, dirigent, aranžér, instrumentalista, zpěvák a hlasatel. V roce 1931 poskytl hudbu pro první transkontinentální rozhlasové vysílání, které pocházelo ze západního pobřeží. Poté byl najat Waltem Disneym, kde nahrál více než 50 melodií, mimo jiné pro kreslený seriál Silly Symphonies ve 30. letech.
Společně s Frankem Churchillem, Larrym Moreyem a Paulem J.
Získal Oscara za nejlepší původní hudbu a Oscara za nejlepší původní píseň za píseň „When You Wish Upon a Star“, která se objevila v Disneyho Pinocchiovi po boku Paula Smithe a Neda Washingtona. Melodie se později stala námětem pro Disneyho televizní seriál The Wonderful World of Disney.
Zemřel na komplikace způsobené rakovinou hrdla 10. prosince 1969 v Long Beach v Kalifornii a je pohřben na hřbitově Valhalla Memorial Park Cemetery.