Pemerintahan Kerajaan Pagaruyung akhirnya digantikan oleh orang Minangkabau sendiri, yaitu Rajo Tigo Selo yang dibantu oleh Basa Ampat Balai.
Daerah kekuasaan Kerajaan Pagaruyung yaitu daerah Siak, Kampar, dan Indragiri kemudian lepas dan ditaklukkan oleh Kesultanan Malaka dan Aceh.
Pada abad k3-16, agama Islam mulai berkembang di Pagaruyung setelah para musafir singgah di Aceh dan Malaka.
Ulama yang pertama kali menyebarkan Islam di Pagaruyung adalah Syaikh Burhanuddin Ulakan, murid ulama terkenal dari Aceh.
Maka, memasuki abad ke-17, Kerajaan Pagaruyung kemudian berubah menjadi kesultanan dan raja pertama yang menjadi muslim adalah Sultan Alif.
Kemudian, banyak aturan adat Minangkabau yang dihilangkan karena bertentangan dengan ajaran Islam, dan hanya tersisa sedikit sistem dan cara adat yang dipertahankan.
Inilah yang kemudian mendorong pecahnya perang saudara atau dikenal dengan Perang Padri.
Secara bersamaan pula, kerajaan ini harus mengakui kedaulatan Kesultanan Aceh.
Kekuatan kerajaan Pagaruyung kembali, ketika VOC berhasil mengalahkan Kesultanan Aceh pada 1667.
Kehidupan ekonomi Kerajaan Pagaruyung menjelang akhir abad ke-17, yang ditopang oleh produksi emas mulai menarik minat Belanda dan Inggris.