In una carriera di 22 anni, Jones compilò un record di 229-217 con 1223 strikeout e 3.84 ERA in 3.883 inning lanciati. Jones firmò il suo primo contratto da professionista nel 1913, con una squadra di minor league a Zanesville, Ohio. Ha fatto il suo debutto nella major league con gli Indians nel 1914. Prima della stagione 1916, fu inviato a Boston nello stesso mestiere che portò Tris Speaker a Cleveland.

Nel 1918, Jones si unì ai Red Sox iniziando la rotazione, terminando con un punteggio di 16-5, una carriera-migliore 2.25 ERA e una lega-migliore .762 percentuale di vincita. La sua stagione più produttiva arrivò nel 1921, quando mise a segno i suoi massimi in carriera in vittorie (23), strikeout (98) e inning (298.2), e guidò la lega in shutout (5). Ma la sua stagione più ricordata potrebbe essere stata il 1923 come asso dello staff degli Yankees; ha registrato un record di 21-8 con un’ERA 3.63 e ha portato la sua squadra al loro primo titolo delle World Series. Jones anche no-hit Philadelphia Athletics 2-0 settembre 4 a Shibe Park, in una partita in cui non ha registrato uno strikeout l’intera partita. Solo altri due lanciatori (Earl Hamilton e Ken Holtzman) hanno lanciato un no-hitter senza strikeout. Jones era 2-1 contro i New York Giants in quella World Series, e il suo lavoro di soccorso cruciale nella partita finale della serie ha conquistato il campionato per gli Yankees. Come la maggior parte dei lanciatori del suo tempo, Jones ha sollevato così come ha iniziato, e le sue otto parate nel 1922 hanno portato i lanciatori di soccorso della lega.

Jones perse 21 partite in campionato nel 1925. Lanciò per i Browns un anno dopo, e fu rinunciato a Washington nel 1927. Con i Senators, Jones riacquistò la sua forma, guidando lo staff della sua squadra con un record di 17-7. Ha goduto la sua ultima buona stagione nel 1930, finendo con un segno 15-7. Dopo quattro anni di servizio per i White Sox, Jones si ritirò nel 1935 come il più vecchio giocatore attivo al momento (42). Il suo 22 stagioni consecutive pitching in un campionato è un record di major league condiviso con Herb Pennock, Early Wynn, Red Ruffing e Steve Carlton.

Era un lanciatore di colpire migliore della media nella sua carriera, compilando un .197 media battuta (245-per-1243) con 151 corre, 6 home run e 101 RBI.

Sad Sam Jones morì a Barnesville, Ohio, all’età di 73 anni.