Sanders se narodil v Petrohradě v Ruském impériu a jeho rodina se po vypuknutí Ruské revoluce přestěhovala do Velké Británie. Navštěvoval Bedales School a Brighton College, chlapeckou nezávislou školu v Brightonu, poté pokračoval na Manchesterskou technickou univerzitu, po které pracoval v textilním výzkumu. Na radu Greera Garsona se začal věnovat herectví.
Sanders se proslavil rolemi ve filmech jako Otrokářská loď, Říkejte mi madam, Šarlatový kabát, Výstřel do tmy, Zpověď nacistického špióna, Rebecca, Syn Monte Crista, Černá labuť, Hon na člověka, Měsíc a Šestiprocentní, Tahle země je moje, Paříž po setmění, Lodger, Obraz Doriana Graye, Skandál v Paříži, Soukromé záležitosti Bel Amiho, Duch a paní Muirová, Navždy Amber, Samson a Delilah, Ivanhoe, Svědek vraždy, Králův zloděj, Smrt darebáka, Ze Země na Měsíc, Šalamoun a Šeba, Vesnice zatracených, Zlatá hlava, Africký král a Vše o Evě, za které získal Oscara za nejlepší vedlejší herecký výkon.
Sanders byl také známý tím, že hrál detektivní postavy, jako Simon Templar/Svatý a Gay Laurence/Sokol v letech 1939 až 1942. Obě role později hrál jeho bratr Tom Conway.
Objevil se také v televizních seriálech jako The Rogues, Voyage to the Bottom of the Sea, The Man From U.N.C.L.E., Daniel Boone a Batman jako Mr.
Sanders trpěl v pozdějších letech demencí spolu s různými tragédiemi, které ho zanechaly v depresi. 23. dubna 1972 se Sanders ubytoval v hotelu v Castelldefels, pobřežním městě nedaleko Barcelony. Zemřel na srdeční zástavu o dva dny později poté, co spolkl obsah pěti lahví barbiturátu Nembutal. Byl zpopelněn a jeho popel byl rozptýlen v Lamanšském průlivu.