“Sweet Baby James” è stato suonato in quasi tutti i concerti di Taylor dalla sua uscita. Viene spesso salvato per quasi o alla fine degli spettacoli, dove serve come il climax emotivo con Taylor che lo esegue come l’ultimo bis che torna sul palco senza la sua band, o forse con solo un tastierista che accompagna la sua chitarra.

Invariabilmente, la seconda strofa menziona il Massachusetts Turnpike, Stockbridge, I Berkshires, e Boston portare applausi da parte di persone tra il pubblico che aveva vissuto in Massachusetts. E se il concerto è in Tanglewood o Great Woods, la commozione è sufficiente per mettere in pausa la canzone. Taylor è nato a Boston, e anche se si è trasferito in North Carolina quando molto giovane, ha trascorso le estati in Massachusetts e andò in collegio lì. Questa associazione ha reso Taylor un favorito regionale nel New England, tra cui sell-out a Tanglewood e uno stand concerto da record a Great Woods. Taylor, che ha subito un trattamento presso l’Austen Riggs Center di Stockbridge nei suoi anni più giovani e in seguito è diventato un residente dei Berkshires, ha parlato dei punti di riferimento geografici della canzone: “Ho davvero guidato la turnpike da Stockbridge a Boston. Ho un vero legame con questo posto.”

Ha eseguito la canzone come parte del suo set nel primo episodio della seconda stagione di Saturday Night Live, andato in onda il 18 settembre 1976. 15 anni dopo, Taylor eseguì nuovamente la canzone nell’episodio natalizio del Saturday Night Live del 14 dicembre 1991.

Nel concerto di beneficenza “Four Together” organizzato da Harry Chapin nel 1977, John Denver cantò la parte di armonia del coro su questa canzone.

Un concerto del 1992 è stato incluso nel suo album Live del 1993.

Jay Leno ha richiesto la performance live di Taylor nel suo ultimo The Tonight Show (primo stint) il 29 maggio 2009. Ha detto di averlo ascoltato alla radio mentre lasciava Boston per Los Angeles nei primi anni 1970 e che la linea “dieci miglia dietro, diecimila altri da andare” risuonava profondamente con lui.

Taylor ha eseguito la canzone durante la campagna per la rielezione di Deval Patrick durante le elezioni governatoriali del Massachusetts, 2010, e la linea “Stockbridge to Boston” ha suscitato un’enorme reazione anche in quel contesto.