„Sweet Baby James” był grany na prawie każdym koncercie Taylor od czasu premiery. Często jest zapisywany na blisko lub na końcu koncertów, gdzie służy jako emocjonalny punkt kulminacyjny z Taylorem wykonującym go jako ostatni bis wracający na scenę bez swojego zespołu, a może tylko z klawiszowcem towarzyszącym jego gitarze.

niezmiennie Druga zwrotka wspomina o Massachusetts Turnpike, Stockbridge, Berkshires i Bostonie, przynosząc okrzyki od ludzi z publiczności, którzy mieszkali w Massachusetts. A jeśli koncert jest w Tanglewood lub Great Woods, zamieszanie wystarczy, aby zatrzymać piosenkę. Taylor urodził się w Bostonie i choć w młodości przeniósł się do Karoliny Północnej, lato spędził w Massachusetts i uczęszczał tam do szkoły z internatem. To stowarzyszenie sprawiło, że Taylor stał się regionalnym faworytem w Nowej Anglii, włączając wyprzedaże w Tanglewood i rekordową scenę koncertową w Great Woods. Taylor, który w młodości przeszedł leczenie w Austen Riggs Center w Stockbridge, a później został rezydentem Berkshires, mówił o geograficznych punktach odniesienia piosenki: „naprawdę jechałem autostradą ze Stockbridge do Bostonu. Mam prawdziwy związek z tym miejscem.”

wykonał tę piosenkę jako część swojego planu w pierwszym odcinku drugiego sezonu Saturday Night Live, który został wyemitowany 18 września 1976 roku. 15 lat później Taylor ponownie wykonała utwór w świątecznym odcinku Saturday Night Live 14 grudnia 1991 roku.

w koncercie charytatywnym „Four Together” zorganizowanym przez Harry ’ ego Chapina w 1977 roku John Denver zaśpiewał partię harmonii w refrenie tej piosenki.

koncertowy występ z 1992 roku znalazł się na jego albumie Live z 1993 roku.

Jay Leno poprosił Taylora o wykonanie utworu na żywo podczas jego finałowego The Tonight Show (first stint) 29 maja 2009 roku. Powiedział, że słuchał go w radiu samochodowym, gdy wyjeżdżał z Bostonu do Los Angeles na początku lat 70. i że linia „ten miles behind, ten thousand more to go” głęboko z nim rezonowała.

Taylor wykonała tę piosenkę podczas kampanii wyborczej o reelekcję Devala Patricka podczas wyborów gubernatorskich w Massachusetts w 2010 roku, a linia „Stockbridge to Boston” również wywołała ogromną reakcję w tym kontekście.