Merkelová se narodila v Kentucky a ve 20. letech hrála na jevišti v New Yorku. V roce 1930 odešla do Hollywoodu a stala se populární filmovou herečkou. Dvě z jejích nejznámějších rolí jsou ve filmech: 42. ulice a Destry Rides Again. Mezi její další filmové role patří Abraham Lincoln, Born to Dance, I Love Melvin, The Bank Dick, Kill the Umpire, This Is the Army, Road to Zanzibar, Veselá vdova, The Mating Game, Spinout a Summer and Smoke, kde byla nominována na Oscara za nejlepší ženský herecký výkon ve vedlejší roli.
Za svou divadelní kariéru získala Merkelová cenu Tony za roli na Broadwayi ve hře The Ponder Heart. Objevila se také v hrách Coquette, Take Me Along a The Remarkable Mr. Pennypacker.