Syms nació como Sylvia Blagman en Brooklyn, Nueva York. De niña, tuvo polio. De adolescente, fue a clubes nocturnos de jazz en la calle 52 de Nueva York y recibió entrenamiento informal de Billie Holiday. Hizo su debut en 1941 en el establo de Kelly.

En 1948, actuando en el Cinderella Club en Greenwich Village, fue vista por Mae West, quien le dio un papel en un espectáculo que estaba haciendo. Entre otros que la observaron en clubes nocturnos se encontraba Frank Sinatra, quien la consideraba la «mejor cantante de salón del mundo». Sinatra dirigió su álbum de 1982, Syms by Sinatra.

Firmó un contrato con Decca Records, teniendo su mayor éxito con una grabación de «I Could Have Danzed All Night» en 1956, que vendió más de un millón de copias y obtuvo un disco de oro. Syms hizo apariciones regulares en el Carlyle en Manhattan. A veces, improvisadamente, mientras disfrutaba de un cóctel en el bar del Carlyle, subía al escenario y actuaba con el otro habitual del cabaret, Bobby Short.

A Syms se le extirpó un pulmón alrededor de 1972. La operación no le impidió actuar como Bloody Mary en el musical South Pacific en el Teatro Cena Chateau de Ville.Murió de un ataque al corazón mientras estaba en el escenario en el Oak Room del Hotel Algonquin en la ciudad de Nueva York. Tenía 74 años.

El 25 de junio de 2019, la revista The New York Times incluyó a Sylvia Syms entre los cientos de artistas cuyo material fue destruido en el incendio Universal de 2008.