Pada 20 Maret 1926, Chiang membuat keputusan yang menentukan untuk membersihkan Komunis dari partai.
Dalam apa yang sekarang dikenal sebagai Kudeta Kanton, pimpinan Kuomintang dengan ragu-ragu menyatakan bahwa Kudeta Komunis akan terjadi di Kanton (Guangzhou) dan menangkap semua pimpinan Partai Komunis di kota.
Para pemimpin ini, dan orang-orang lain di partai, dituduh menentang ideologi Kuomintang dan mereka dikeluarkan dari partai.
Sekarang pendukung Chiang mendominasi kepemimpinan partai, dia siap untuk perang terbuka.
Pada 11 April 1927, dia mengirim perintah rahasia kepada Kuomintang untuk membersihkan semua anggota Komunis.
Pada 12 April, Chiang memerintahkan serangan yang sekarang dikenal sebagai Pembantaian Shanghai.
Serangan itu dimulai dengan serangan terhadap kantor serikat pekerja di kota dan pelucutan senjata milisi Komunis.
Ketika pekerja sayap kiri mulai memprotes serangan ini, mereka dibubarkan oleh hujan peluru, menewaskan 100 orang.