Το βράδυ του πραξικοπήματος των συνταγματαρχών την 21η Απριλίου του 1967, ο Κωνσταντίνος Μητσοτάκης συνελήφθη μεταξύ των πρώτων και μετεφέρθη με άλλους πολιτικούς ηγέτες στο Κέντρο Τεθωρακισμένων στο Γουδί. Από εκεί, οδηγήθηκε την επομένη στο Πικέρμι και στη συνέχεια ετέθη για έξι μήνες υπό κατ' οίκον περιορισμό. Στο διάστημα αυτό, δεν είχε δικαίωμα εξόδου και η επικοινωνία του με οποιοδήποτε πρόσωπο ήταν αδύνατη αλλά και επικίνδυνη.
Ο Μητσοτάκης ήταν ο πρώτος που πρότεινε σχηματισμό κυβέρνησης εθνικής ενότητας υπό τον Κωνσταντίνο Καραμανλή για να μεταβεί ομαλά η χώρα στη δημοκρατία, σε δήλωσή του σχετικά με το σύνταγμα και την διεξαγωγή "δημοψηφίσματος" από την χούντα το 1968. Με αφορμή τη δήλωση αυτή καταδιώχθηκε από τη χούντα και αναγκάστηκε να διαφύγει στο εξωτερικό. Την 15η Αυγούστου 1968 ξεκίνησε κρυφά με πλοιάριο από τη Ραφήνα, διέσχισε το Αιγαίο και έφθασε στο Τσεσμέ της Τουρκίας. Και στη συνέχεια προωθήθηκε στη Σμύρνη. Από εκεί μετέβη στο Παρίσι όπου θα παραμείνει εξόριστος για τα έξι επόμενα χρόνια. Η Δικτατορία εκβίασε την επιστροφή του θέτοντας υπό κατ' οίκον περιορισμό την οικογένειά του και αρνούμενη να της επιτρέψει την έξοδο από την Ελλάδα μέχρι τον Ιούνιο του 1969 οπότε και της χορήγησε άδεια εξόδου. Η οικογένεια Μητσοτάκη ενώνεται και πάλι στο Παρίσι, όπου και παραμένει εξόριστη μέχρι το φθινόπωρο του 1973.
Ο Κωνσταντίνος Μητσοτάκης συνεργάστηκε στο εξωτερικό με όλες τις αντιστασιακές δυνάμεις και υπήρξε ο στενότερος συνεργάτης του Καραμανλή στο Παρίσι. Με την άρση του Στρατιωτικού Νόμου, τον Οκτώβριο του 1973, επέστρεψε στην Ελλάδα όπου φυλακίστηκε ξανά, από το καθεστώς Ιωαννίδη στις φυλακές Χανίων τον Ιούλιο του 1974. Η αποκατάσταση της Δημοκρατίας και η επιστροφή του Καραμανλή στην Ελλάδα τον βρήκαν ξανά στη φυλακή.