All'età di 39 anni, Joe Clark divenne il più giovane Primo Ministro del Canada nel 1979. Un conservatore fiscale, Joe Clark, e il suo governo di minoranza furono sconfitti dopo soli nove mesi al potere su una mozione di sfiducia su un bilancio di aumenti delle tasse e tagli ai programmi.
Dopo aver perso le elezioni del 1980, Joe Clark rimase a capo dell'opposizione. Quando Brian Mulroney assunse la carica di Capo del Partito conservatore progressista del Canada nel 1983 e poi in Prime Ministro nel 1984, Joe Clark ha continuato come Ministro delle relazioni esterne e Ministro costituzionale Affari. Joe Clark lasciò la politica nel 1993 per lavorare come consulente commerciale internazionale, ma tornò come capo del Partito conservatore progressista dal 1998 al 2003.
Joe Clark iniziò la sua carriera politica come direttore dell'organizzazione per il Partito conservatore progressivo dell'Alberta dal 1966 al 1967. È stato Assistente speciale di un parlamentare conservatore Davie Fulton nel 1967. È stato Assistente esecutivo di un parlamentare conservatore Robert Stanfield dal 1967 al 1970.
Joe Clark fu eletto per la prima volta alla Camera dei Comuni nel 1972. È stato eletto leader del Partito conservatore progressista del Canada nel 1976 ed è stato leader dell'opposizione fino al 1979. Joe Clark ha prestato giuramento come Primo Ministro del Canada dopo le elezioni generali del 1979.
Il governo conservatore fu sconfitto nel 1980. Joe Clark fu di nuovo a capo dell'opposizione dal 1890 al 1983. Joe Clark convocò una convenzione sulla leadership del Partito conservatore progressista e perse la direzione del partito a Brian Mulroney nel 1983.
Nel governo Mulroney, Joe Clark è stato Ministro degli Affari Esteri dal 1984 al 1991. È stato presidente del Consiglio privato e ministro responsabile degli affari costituzionali dal 1991 al 1993. Joe Clark non ha corso alle elezioni generali del 1993.
Joe Clark è tornato come Capo del Partito conservatore progressista del Canada nel 1998. È stato rieletto alla Camera dei Comuni nel 2000. Nel 2002, Joe Clark dichiarò di aver portato il Partito conservatore progressista il più lontano possibile. Le dimissioni di Joe Clark come leader del Partito conservatore progressista sono state efficaci alla convention di leadership del maggio 2003.