« Sweet Baby James » a été joué à presque tous les concerts de Taylor depuis sa sortie. Il est souvent enregistré à la fin ou à la fin des spectacles, où il sert de point culminant émotionnel avec Taylor qui l’interprète comme le dernier rappel qui revient sur scène sans son groupe, ou peut-être avec juste un claviériste accompagnant sa guitare.

Invariablement, le deuxième couplet mentionne le Massachusetts Turnpike, Stockbridge, les Berkshires et Boston, suscitant les acclamations des spectateurs qui avaient vécu dans le Massachusetts. Et si le concert est à Tanglewood ou à Great Woods, l’agitation suffit à mettre la chanson en pause. Taylor est né à Boston, et bien qu’il ait déménagé en Caroline du Nord très jeune, il a passé ses étés dans le Massachusetts et y est allé en internat. Cette association a fait de Taylor un favori régional en Nouvelle-Angleterre, y compris des guichets à Tanglewood et un stand de concert record à Great Woods. Taylor, qui a subi un traitement au Austen Riggs Center de Stockbridge dans ses jeunes années et est devenu plus tard un résident des Berkshires, a parlé des points de référence géographiques de la chanson: « J’ai vraiment conduit le turnpike de Stockbridge à Boston. J’ai un vrai lien avec cet endroit. »

Il a interprété la chanson dans le cadre de son plateau dans le premier épisode de la deuxième saison de Saturday Night Live, diffusé le 18 septembre 1976. 15 ans plus tard, Taylor interprète à nouveau la chanson dans l’épisode de Noël du Saturday Night Live le 14 décembre 1991.

Lors du concert-bénéfice « Four Together » organisé par Harry Chapin en 1977, John Denver a chanté la partie d’harmonie du refrain sur cette chanson.

Une performance de concert de 1992 a été incluse sur son album Live de 1993.

Jay Leno a demandé à Taylor d’interpréter la chanson en direct lors de son dernier The Tonight Show (premier passage) le 29 mai 2009. Il a dit qu’il l’avait écouté sur l’autoradio alors qu’il quittait Boston pour Los Angeles au début des années 1970 et que la ligne « dix milles de retard, dix mille de plus à parcourir » résonnait profondément avec lui.

Taylor a interprété la chanson lors de la campagne pour la réélection de Deval Patrick lors de l’élection au poste de gouverneur du Massachusetts, en 2010, et la ligne « Stockbridge à Boston » a également suscité une énorme réaction dans ce contexte.