urodzony w Morganton w Karolinie Północnej w 1894 roku (niektóre źródła podają 1897 lub 1899), Williams uciekł z domu w wieku 11 lat, aby dołączyć do programu namiotowego. Później pracował na statkach w Missisipi, zanim udał się do Nowego Jorku. Po pojawieniu się w kilku produkcjach scenicznych Williams dostał rolę w Eyes of Youth, z Marjorie Rambeau w roli głównej. Rola ta wzmocniła jego karierę i przyniosła mu uznanie. Po zakończeniu kariery wstąpił do United States Army, gdzie służył w 166 Pułku Piechoty podczas I wojny światowej. Po wojnie Williams powrócił do Stanów Zjednoczonych i wznowił karierę aktorską. W 1922 roku zadebiutował na Broadwayu w popularnej komedii Abie ’ s Irish Rose. Występował także w produkcjach „that French Lady”, „Scarlet Pages” oraz „Love, Honor and Betrade”.

Po pojawieniu się jako „Johnnie Coles” w sztuce odbicie w 1930 roku, Williams został wybrany przez reżysera Edwarda H. Griffitha do powtórzenia roli w wersji filmowej z 1931 roku. Otrzymał pochlebne recenzje za pracę w filmie, a następnie drugoplanową rolę w „Devotion”, która również została wydana w 1931 roku. W tym samym roku Williams został obsadzony w swojej pierwszej i jedynej głównej roli w komedii romantycznej Platynowa blondynka z Lorettą Young i Jean Harlow. Był to jego ostatni występ na ekranie.