född och uppvuxen i Cincinnati, Ohio, började Rudy sjunga i kyrkan i ung ålder. Vid tonåren sjöng han som medlem av The Isley Brothers med Kelly, Ronnie och Vernon. 1957, efter Vernons död, flyttade de återstående tre äldste Isleys till New York för att söka ett inspelningsavtal, senare inspelning för mindre etiketter tills de landade ett avtal med RCA Records 1959 där de skrev, spelade in och släppte sin första betydande inspelning, ”Shout”. Sommaren samma år hade familjen Isley flyttat från Cincinnati till ett hem i Englewood, New Jersey.

efter ”Shout” spelade bröderna in för andra etiketter med blygsam framgång med undantag inklusive topp 40 hit, ”Twist& Shout” och Motown hit, ”This Old Heart of Mine (Is Weak for You)”. På 1960-talet grundade Rudy och hans bröder etiketten T-Neck Records för att marknadsföra sina inspelningar. Efter splittringen med Motown återaktiverade de etiketten och gjorde en Grammy-vinnande smash med ”It’ s Your Thing” 1969. Medan Ron Isley var den framstående sångare i gruppen, Rudy gjorde spela in några sång på vissa Isley Brothers låtar, efter återaktivering av T-Neck. Efter att gruppen omorganiserades till ett band efter införandet av yngre bröder Ernie och Marvin Isley och svärfar Chris Jasper, Rudy var känd för att ha på sig hattar och pälskläder och var också känd för att bära en käpp. Rudy skulle dela sång med sina bröder Ron och Kelly på hits som ”Fight The Power” och ”Livin’ in The Life”. Rudy sjöng också full ledning på andra låtar som ”You Still Feel the Need” från albumet, Harvest for the World och deras hit från 1979, ”It’ s a Disco Night (Rock Don ’ t Stop)”. 1986 dog Rudys äldsta bror Kelly plötsligt av en hjärtattack i sömnen. Kellys död förstörde Rudy eftersom bröderna hade varit nära. Efter att ha spelat in albumen Smooth Sailin’ och tillbringa natten lämnade Rudy Isley gruppen och musikbranschen för gott 1989 för att följa ett livslångt mål att vara kristen minister. Rudy infördes som medlem av Isleys till Rock and Roll Hall of Fame 1992.