geboren in Morganton, North Carolina in 1894 (sommige bronnen zeggen 1897 of 1899), Williams liep weg van huis op de leeftijd van 11 om deel te nemen aan een tent show. Hij werkte later op showboats in Mississippi voordat hij naar New York ging. Na het verschijnen in verschillende toneelproducties, Williams landde een rol in Eyes Of Youth, starring Marjorie Rambeau. De rol versterkt zijn carrière en kreeg hem op de hoogte. Hij zette zijn carrière in de wacht om bij het United States Army te komen, waar hij diende in het 166th Infantry Regiment tijdens de Eerste Wereldoorlog. Na de oorlog keerde Williams terug naar de Verenigde Staten en hervatte zijn acteercarrière. In 1922 maakte hij zijn debuut op Broadway in de populaire podiumkomedie Abie ‘ s Irish Rose. Hij verscheen ook in producties van That French Lady, Scarlet Pages, en liefde, eer en verraad.na zijn rol als “Johnnie Coles” in het toneelstuk Rebound in 1930, werd Williams gekozen door regisseur Edward H. Griffith om de rol in de filmversie van 1931 opnieuw te vertolken. Hij ontving gunstige recensies voor zijn werk in de film en volgde met een bijrol in Devotion, die ook werd uitgebracht in 1931. Later datzelfde jaar, Williams werd gegoten in zijn eerste en enige hoofdrol in de romantische komedie film Platinum Blonde, met Loretta Young en Jean Harlow. Het was zijn laatste verschijning op het scherm.