Sys est née Sylvia Blagman à Brooklyn, New York. Enfant, elle était atteinte de poliomyélite. Adolescente, elle est allée dans des boîtes de nuit de jazz sur la 52e rue de New York et a reçu une formation informelle de Billie Holiday. Elle a fait ses débuts en 1941 dans l’écurie de Kelly.

En 1948, se produisant au Cinderella Club de Greenwich Village, elle est vue par Mae West, qui lui donne un rôle dans un spectacle qu’elle fait. Parmi les autres personnes qui l’ont observée dans les boîtes de nuit, Frank Sinatra la considérait comme la « plus grande chanteuse de saloon du monde. » Sinatra a dirigé son album de 1982, Syms by Sinatra.

Elle a signé un contrat avec Decca Records, ayant son grand succès avec un enregistrement de « I Could Have Danced All Night » en 1956, qui s’est vendu à plus d’un million d’exemplaires et a reçu un disque d’or. Syms a fait des apparitions régulières au Carlyle à Manhattan. Parfois, de façon impromptue, tout en dégustant un cocktail au bar du Carlyle, elle montait sur scène et se produisait avec l’autre habitué du cabaret, Bobby Short.

Syms a subi une ablation pulmonaire vers 1972. L’opération ne l’a pas empêchée de se produire dans le rôle de Bloody Mary dans la comédie musicale South Pacific au Dîner-Théâtre du Château de Ville.

Elle est décédée d’une crise cardiaque alors qu’elle était sur scène dans la salle Oak de l’Hôtel Algonquin à New York. Elle avait 74 ans.

Le 25 juin 2019, Le New York Times Magazine a classé Sylvia Syms parmi des centaines d’artistes dont le matériel aurait été détruit lors de l’incendie universel de 2008.