Jako samouk na hudební nástroje hrál Zé Carioca na kytaru, ukulele a banjo. Pracoval jako zaměstnanec Butantanova institutu v São Paulu. V roce 1931 pokračoval vystoupením v Columbia Orchestra, řízeném dirigentem Odmarem Amaralem Gurgelem v Radio Cruzeiro do Sul. V té době vyměnil ukulele za banjo, čímž si vysloužil přezdívku Zezinho do Banjo. V roce 1932 odešel přes Césara Ladeiru do Ria de Janeira, aby vystoupil v Radio Mayrink Veiga. Na této stanici pracoval po boku velkých skladatelů tohoto období: Garoto, Pixinguinha, Nélson Souto, mimo jiné. Když se Ladeira stal uměleckým ředitelem Cassino da Urca, vzal Zé Cariocu na vystoupení do slavného kasina carioca. Tam se v roce 1939 setkal s Carmen Mirandou.
Ve čtyřicátých letech začal Zé Carioca spolupracovat s Carmen Mirandovou společně s Bando da Lua v několika filmech od 20th Century Fox, zpočátku se podílel pouze na soundtracku a poté také na scéně. V té době se prostřednictvím Aloysia de Oliveiry seznámil s Waltem Disneym, který začal dabovat studiové kreslené postavičky. Kontakt s Disneym inspiroval amerického producenta k vytvoření postavy José Carioca. Stal se celebritou s filmem Saludos Amigos, vydaným v roce 1942, a ještě více se stal populárním s dalším Disneyho filmem, The Three Caballeros, vydaným v roce 1944 s Aurorou Mirandou.