«Sweet Baby James» se ha tocado en casi todos los conciertos de Taylor desde su lanzamiento. A menudo se guarda para cerca o al final de los espectáculos, donde sirve como el clímax emocional con Taylor interpretándolo como el último bis que regresa al escenario sin su banda, o tal vez con solo un teclista que acompaña su guitarra.

Invariablemente, las menciones del segundo verso de la Autopista de Peaje de Massachusetts, Stockbridge, los Berkshires y Boston traen vítores de la gente en la audiencia que había vivido en Massachusetts. Y si el concierto es en Tanglewood o Great Woods, la conmoción es suficiente para pausar la canción. Taylor nació en Boston, y aunque se mudó a Carolina del Norte cuando era muy joven, pasó los veranos en Massachusetts y fue a un internado allí. Esta asociación ha hecho de Taylor un favorito regional en Nueva Inglaterra, incluyendo ventas agotadas en Tanglewood y un puesto de conciertos récord en Great Woods. Taylor, que se sometió a tratamiento en el Austen Riggs Center en Stockbridge en su juventud y más tarde se convirtió en residente de los Berkshires, ha hablado de los puntos de referencia geográficos de la canción: «Realmente conduje la autopista de peaje de Stockbridge a Boston. Tengo una conexión real con este lugar.

Interpretó la canción como parte de su set en el primer episodio de la segunda temporada de Saturday Night Live, que se emitió el 18 de septiembre de 1976. 15 años más tarde, Taylor interpretó la canción de nuevo en el episodio navideño de Saturday Night Live el 14 de diciembre de 1991.

En el concierto benéfico «Four Together» organizado por Harry Chapin en 1977, John Denver cantó la parte de armonía del coro de esta canción.

Un concierto de 1992 fue incluido en su álbum Live de 1993.

Jay Leno solicitó la presentación en vivo de Taylor de la canción en su último The Tonight Show (primera temporada) el 29 de mayo de 2009. Dijo que lo había escuchado en la radio del automóvil cuando salía de Boston hacia Los Ángeles a principios de la década de 1970 y que la línea de «diez millas por detrás, diez mil más por recorrer» resonaba profundamente con él.

Taylor interpretó la canción cuando hizo campaña para la reelección de Deval Patrick durante las elecciones a gobernador de Massachusetts de 2010, y la línea de «Stockbridge a Boston» también provocó una gran reacción en ese contexto.