Nacque da genitori scozzesi a Newcastle, nella contea di Northumberland, nel Nuovo Brunswick, il 4 gennaio 1824. Fu educato alla Quebec grammar school; studiò legge e fu chiamato all’ordine degli avvocati della provincia del Nuovo Brunswick nel 1848. Ha esercitato la sua professione per quattro anni, e poi è entrato in partnership con un signor Hawe nel settore del legname e della costruzione navale.

Mitchell si candidò nuovamente nel 1856 come oppositore del proibizionismo, che era stato proposto dal governo. Ha portato una pistola per la protezione durante la campagna e rum per i suoi sostenitori. Ha avuto successo in questa elezione. Nella legislatura, Mitchell si oppose alle scuole confessionali e sostenne la creazione del governo municipale. Divenne membro del Consiglio esecutivo nel 1859 e introdusse il primo atto fallimentare della colonia per rendere le cose più facili per i debitori. Mitchell non si candidò per la rielezione nel 1861, ma fu presto nominato membro del Consiglio legislativo del New Brunswick (la camera alta della colonia) e si riunì al Consiglio Esecutivo.

Mentre partecipava alla Conferenza del Quebec del 1864, Peter Mitchell era un forte sostenitore della Confederazione canadese. Si dimise dal Consiglio Esecutivo nel 1865 quando il governo pro-Confederazione di Samuel Leonard Tilley fu sconfitto, e aiutò il luogotenente-governatore Arthur Hamilton Gordon a forzare le dimissioni del governo anti-confederazione di Albert J. Smith nel 1866. Gordon nominò Mitchell come nuovo premier. Mitchell chiese a Gordon di indire un’elezione, e lui e il suo Partito confederato furono restituiti con una maggioranza che approvò la partecipazione della colonia alla Confederazione canadese nel 1867.

Mitchell ha partecipato alla Conferenza di Londra, che ha redatto il British North America Act. Fu nominato al nuovo Senato del Canada per la sua sessione inaugurale nel luglio 1867. Mitchell divenne membro del primo gabinetto di Sir John A. Macdonald come ministro della marina e della pesca. Era un difensore aggressivo degli interessi canadesi e contestava la pesca straniera nelle acque canadesi al punto di usare le cannoniere per sequestrare le navi americane.

Mitchell si dimise dal Senato nel 1872 per correre per un seggio alla Camera dei Comuni del Canada dove sentiva che avrebbe avuto più influenza. Fu acclamato in un’elezione suppletiva, ma nel 1873 il governo Macdonald cadde a causa dello scandalo del Pacifico. Mitchell abbandonò il partito liberal-conservatore di Macdonald e si dichiarò membro indipendente del Parlamento (MP). Aveva poca influenza come indipendente, ed era diffidato sia dai conservatori che dai liberali.

Mitchell si dimise dal suo posto nel 1878 dopo essere stato accusato di aver violato l’Independence of Parliament Act affittando un edificio al governo mentre era senatore. Ha ri-offerto nelle successive elezioni suppletive ed è stato restituito al parlamento.

Si candidò alle elezioni federali del 1878 come “liberale indipendente” che sosteneva la politica nazionale di Macdonald. Mitchell è stato sconfitto dal candidato indipendente Jabez Bunting Snowball.

Mitchell tornò ai Comuni nelle elezioni del 1882 e fu rieletto nelle elezioni del 1887 come liberale indipendente, ma fu sconfitto nelle elezioni del 1891.

Nel 1885, Mitchell acquistò il Montreal Herald e il Daily Commercial Gazette, e lo usò per attaccare le politiche sia dei liberali che dei conservatori. Ha anche chiesto pietà per Louis Riel, e la colpa Macdonald per aver causato la ribellione Riel da non trattare con i reclami Métis. Divenne un sostenitore di Sir Wilfrid Laurier e si candidò come liberale alle elezioni del 1896, ma perse. Laurier lo nominò ispettore generale della pesca per il Quebec e le province marittime, e Mitchell mantenne tale posizione fino alla sua morte nel 1899.

Nel luglio 1899, mentre stava lasciando gli edifici parlamentari di Ottawa, fu colpito da paralisi. Sembrò riprendersi, ma il 25 ottobre 1899 fu trovato morto nelle sue stanze del Windsor Hotel di Montreal.