Brennan se narodil v Lynnu ve státě Massachusetts, necelé dvě míle od rodinného domu v Swampscottu ve státě Massachusetts. Vystudoval strojírenství na Rindge Technical High School a začal se zajímat o herectví. Po první světové válce pracoval jako finanční reportér a vydělal jmění na nemovitostech, ale nakonec o ně přišel. Brennan bez haléře začal hrát drobné role v němých filmech a raných filmech.
Je známý svými hereckými výkony ve filmech The Prescott Kid, Tři kmotři, Seržant York, Mít a nemít, Texasané, Příběh Vernona a Irene Castleové, Má drahá Clementine, Pýcha Yankeeů, Červená řeka, Tammy a mládenec, Rio Bravo, Jak byl Západ poražen, Oscar, Podpořte svého místního šerifa!, a Smoke in the Wind. Za své herecké výkony ve filmech Come and Get It (1936), Kentucky (1938) a The Westerner (1940) získal Oscara za nejlepší herecký výkon ve vedlejší roli.
Brennan měl také nezapomenutelná televizní vystoupení jako děda Amos McCoy v The Real McCoys, Watler Andrews v The Tycoon, Will Sonnett v The Guns of Will Sonnett, Andy Pruitt v To Rome with Love a jako Nash Crawford v televizních filmech The Over-the-Hill Gang.
Poslední léta strávil Brennan převážně v důchodu na svém ranči v Moorparku ve Ventuře. Zemřel na rozedmu plic ve věku 80 let v Oxnardu v Kalifornii. Jeho ostatky byly uloženy na hřbitově San Fernando Mission Cemetery v Los Angeles.