Scion af en stor Virginia-familie, John Randolph blev født den 2.juni 1773 på sin bedstefars plantage i Prince George County. Gennem sin stedfar, St. George Tucker, blev han indoktrineret med en verdslig visdom ud over sine år. Før han var 12, havde han læst bredt i Shakespeare og de græske og Romerske klassikere. Hans formelle uddannelse var på Columbia og Princeton, og han læste jura på kontoret af sin onkel, Edmund Randolph. Som skoledreng var han vidne til indvielsen af George og de første møder i den første kongres, hvilket antændte hans interesse for politik.

i en alder af 25 år, efter en “stor debat” med Patrick Henry, kom Randolph ind i det amerikanske Repræsentanternes Hus. Hans geni blev snart anerkendt. Som gulvleder for sin fætter Thomas Jefferson og som formand for Udvalget for måder og midler knækkede han pisken over husets medlemmer. Men hans særheder snart fanget op med ham. Han dæmpede Dårligt retssagen mod dommer Samuel Chase (1804), og han diskvalificerede sig selv som formand for Aaron Burr conspiracy trial (1807) på grund af hans længe elskede fordomme mod Burr.Randolph brød åbent med Jefferson i 1806 over forsøget på Florida-køb og krævede en tilbagevenden til principperne fra 1798 og dukkede op som grundlægger af det første af Amerikas “tredje” politiske partier, the Kvids. Randolph blev besejret til genvalg i 1813 på grund af hans modstand mod krigen i 1812. Han tjente igen i huset i 1815-1817, 1819-1825 og 1827-1829, og han tjente også en enkelt periode som amerikansk senator fra 1825 til 1827. I løbet af denne tid var han ofte syg og led af psykisk lidelse.Randolphs velkendte modstand mod Missouri-kompromiset fra 1820-1821 (skønt han hadede slaveri, afviste han indblanding i denne institution), hans frygt for tvungen frigørelse og hans strålende forsvar af staternes rettigheder rørte John C. Calhouns dystre intellekt. Randolph var delegeret til Virginia-konventionen af 1829-1830 og modsatte sig stærkt enhver forfatningsmæssig ændring. I et par måneder i 1830 tjente han som minister for Rusland. Han brød bittert med Jackson over annulleringskrisen i 1832 og ønskede, at han kunne få sin døende krop fastgjort til sin hest, radikal og ride til forsvaret af South Carolina. Den 24. maj 1833 døde han i Philadelphia.