Después de algunas com y venidas de los miembros, se formó la alineación clásica de James, Eddie Gray (guitarra), Mike Vale (bajo), Ron Rosman (teclados) y Pete Lucia (batería). El grupo grabó una canción de seguimiento de «Hanky Panky». Cuando el intento de Bob Mack de encontrar algunos Shondells funcionó de manera inadvertida, le contó a James sobre otro disco que encontró en el mismo contenedor de discos usado,» Hanky Panky», de» Say I Am » de Jimmy Gilmer and the Fireballs. Lo único que James y sus nuevos Shondells sabían cuando entraron en el estudio de grabación por primera vez es que lo que grabaron debería sonar similar a «Hanky Panky», aunque las dos canciones no suenan igual. Mack tocó el disco Fireballs para el grupo, y decidieron grabar su versión de la canción. Mack fue acreditado como el productor del primer álbum del grupo, Hanky Panky.El compositor Richie Cordell escribió (o coescribió) y produjo muchos de los éxitos del grupo, entre ellos «I Think We’re Alone Now», «Mirage» y «Mony Mony». La creación de «Mony Mony» fue un esfuerzo de grupo en el que participaron Cordell, James, Peter Lucia, el productor Bo Gentry y Bobby Bloom. James y Cordell se propusieron crear un single de party rock, trabajando en todo excepto en el título de la canción, que les eludió incluso después de mucho esfuerzo. Cuando se tomaron un descanso de sus esfuerzos creativos en la terraza del apartamento de James, miraron el gran letrero de neón de la Mutual of New York Insurance Company con la abreviatura de la compañía: M-O-N-Y, que proporcionó el nombre de la canción.

Tommy James and the Shondells también produjo un video de» Mony Mony » cuando la canción fue un éxito. A pesar de que varios grupos musicales ya habían producido videos en ese momento, no había mercado para esa película en los Estados Unidos. Las estaciones de televisión no lo transmitirían, y originalmente se mostró entre dobles funciones en cines de Europa. La película no se vio en los Estados Unidos hasta la creación de MTV.

James fue contactado por Beatle George Harrison, que estaba trabajando con un grupo llamado Grapefruit en ese momento. Harrison y el grupo habían escrito algunas canciones que querían que James considerara grabar. Dado que el grupo tomó la decisión de cambiar su estilo musical (y lo haría con «Crimson and Clover»: ver más abajo) y el material proporcionado por Harrison y Grapefruit estaba en el estilo de «Mony Mony», James rechazó su oferta.

El negocio de la música cambió después del éxito de «Mony Mony». El formato de programa Top 40, basado en discos individuales de 45 RPM, impulsó la música popular en la radio. Pocas estaciones tocaban cortes de discos, por lo que la radio estaba, en efecto, «vendiendo» discos individuales para las compañías discográficas. En agosto de 1968, James y los Shondells emprendieron la campaña durante tres meses con el candidato presidencial, el vicepresidente Hubert Humphrey. Mientras tanto, la música popular se había vuelto impulsada por el álbum, desplazando a muchos artistas cuyos sencillos habían sido los más vendidos. James se dio cuenta de que él y los Shondell necesitaban convertirse en un grupo orientado al álbum si querían sobrevivir en el negocio, lo que requería un cambio en su estilo.

Después de elaborar una estrategia de marketing para su nuevo sonido, James visitó WLS cuando el grupo estaba en Chicago para dar un concierto, trayendo un corte aproximado de «Crimson and Clover» a la estación. WLS grabó en secreto la música cuando James tocó su cinta para ellos. En el momento en que James estaba fuera del edificio y en el coche, su radio estaba reproduciendo el doblaje de la estación de la canción aún no terminada. «Carmesí y Trébol» tuvo que ser presionado de la forma en que se escuchó en la estación de radio, y el plan de marketing ahora era una pérdida de tiempo y esfuerzo.

«Crimson and Clover» fue un gran éxito, y el grupo tendría dos éxitos de seguimiento que también alcanzaron el top 10 de los Hot 100, «Sweet Cherry Wine» y «Crystal Blue Persuasion». James, quien coescribió las tres canciones, y su banda lo hicieron lo suficientemente bien con la transición como para ser invitado a tocar en Woodstock. James describe la invitación de Artie Kornfeld de la siguiente manera: «Artie se levantó y le preguntó si podía tocar en esta granja de cerdos en el norte del estado de Nueva York.»Dije,» ¿Qué?!?»Bueno, dicen que va a haber mucha gente allí, y va a ser un espectáculo muy importante.»En el momento en que James estaba en Hawai y era incrédulo al pedirle que viajara 6,000 millas para tocar en un espectáculo en una granja de cerdos al norte del estado de Nueva York, le dijo a la secretaria de Roulette Records:» Si no estoy allí, comience sin nosotros, ¿por favor?

En marzo de 1970, después de cuatro éxitos más, las drogas casi matan a James cuando, en un concierto, se derrumbó, y fue declarado muerto. Sin embargo, sobrevivió, decidió tomar un descanso del estudio de grabación y se mudó al país para recuperarse. The Shondells, sin James, grabaron dos álbumes bajo el nuevo nombre de grupo Hog Heaven (uno «auto titulado» en Roulette Records en 1970 y el segundo (1971) inédito hasta 2008), pero se disolvieron poco después.

Tommy James y los Shondells fueron votados en el Michigan Rock and Roll Legends online Hall of Fame en 2006. Cuatro de los mayores éxitos de la banda han sido votados como Canciones legendarias de Michigan: «Crimson & Clover «en 2010, y» Hanky Panky»,» I Think We’re Alone Now «y» Mony Mony » en 2011.