Setelah itu, dia kembali ke Arab Saudi dan mendapatkan reputasi sebagai pengacara yang brilian dan sebagai kolumnis surat kabar.
Kiprah Yamani menarik perhatian Raja Faisal.
Raja Arab Saudi tersebut lalu memberikan Yamani jabatan sebagai Menteri Perminyakan, sebuah keputusan yang mengejutkan banyak pihak.
Pengangkatan Yamani tersebut ditulis oleh Ellen Wald, penulis buku Saudi, Inc., yang membeberkan sejarah industri perminyakan Arab Saudi.
"Yamani bukanlah spesialis pasar minyak, dia adalah seorang pengacara dan negosiator yang sangat lihai," kata Wald.
"Dan di akhir dekade 1960-an dan 1970-an, (kemampuan negosiasi) itulah yang dibutuhkan Arab Saudi," tulis Wald.
Ketika Yamani memperoleh jabatan itu, Amerika Serikat ( AS) mendominasi perdagangan minyak dunia dan Arab Saudi hanyalah produsen minyak kelas menengah, menurut The Wall Street Journal.
Sebagai menteri perminyakan, Yamani dengan cepat mengonsolidasikan reputasi negara sebagai kepala Organisasi Negara Pengekspor Minyak (OPEC).