Akan tetapi, sebuah senjata mesin di tangan Carlos berhasil menjadi pembunuh dua agen tersebut bersama dengan Moukharbal.
Carlos, yang sebelumnya tidak dikenal oleh penyelidik Prancis, tiba-tiba menjadi fokus perburuan yang akan berlangsung hampir dua dekade.
Selama pencarian di salah satu rumah persembunyian Carlos di London, seorang jurnalis dari Guardina membuka salinan The Frederic Forsyth's Day of the Jackal, dari situlah muncul julukan "Carlos the Jackal".
Carlos melarikan diri ke Beirut dan mulai merencanakan misi berikutnya — misi yang akan membuat namanya dikenal dunia. Pada 21 Desember 1975, Carlos dan lima rekannya menyerbu pertemuan para menteri OPEC di Wina, menewaskan dua penjaga keamanan dan seorang ekonom Libya dan menyandera lebih dari 60 orang.
Setelah mengamankan sebuah pesawat dan melepaskan beberapa sandera, Carlos dan pasukannya menerbangkan 42 tawanan yang tersisa dalam perjalanan yang berakhir di Aljir.
Di sana Carlos disambut oleh kepemimpinan Aljazair, dan belakangan muncul dugaan bahwa dia telah menerima uang tebusan puluhan juta dolar untuk pembebasan para sandera secara aman.
Tindakan ini membuat atasan PFLP-nya marah, yang menuntut eksekusi dua menteri OPEC, dan Carlos dikeluarkan dari PFLP pada 1976.
Carlos kemudian mendapat dukungan dari berbagai individu dan kelompok, termasuk pemimpin Libya Muammar al-Qaddafi dan Stasi Jerman Timur, yang menyediakan markas Berlin Timur sebagai markas Carlos termasuk staf pendukung lebih dari 70 orang.
Carlos kemudian mulai membangun jaringan terorisnya sendiri, yang ia juluki Organisasi Perjuangan Arab Bersenjata (OAAS) pada tahun 1978.