Kariera W 1960 wystąpił w sztuce Wspaniały świat (The Cool World). Ukończył nowojorską szkołę średnią Fiorello H. LaGuardia High School of Music & Art and Performing Arts, a następnie kontynuował naukę w National Academy of Fine Arts and Design w Nowym Jorku i Harlem Actors Workshop, gdzie nauczycielem był Sidney Poitier.
Po kinowym debiucie w dramacie Ostatni gniewny człowiek (The Last Angry Man, 1959), w 1961 Williams nagrał longplay jazzowy wydany przez Prestige Records pt. Let’s Misbehave, na którym zaśpiewał kilka standardów. Album w tym czasie okazał się sukcesem komercyjnym i zakwalifikował się do legendarnej wytwórni Motown 25: Yesterday, Today, Forever (1983).
W 1963 grał w spektaklu off-broadwayowskim The Blue Boy in Black. Pojawił się na małym ekranie w prestiżowych serialach: CBS Obrońcy (The Defenders, 1964), operze mydlanej NBC Inny świat (Another World, 1964), CBS Pielęgniarki (The Nurses, 1965), operze mydlanej CBS Guiding Light (1966) jako dr Jim Frazier. W 1967 wystąpił na broadwayowskiej scenie w musicalu Hallelujah, Baby!. Za rolę Gale’a Sayersa, zawodnika drużyny futbolu amerykańskiego w telewizyjnym biograficznym dramacie sportowym ABC Pieśń Briana (Brian’s Song, 1971) otrzymał nagrodę TV Land i był nominowany do nagrody Emmy.