Jika Kecerdasan Buatan Semakin 'Sempurna', Dapatkah Manusia Mengendalikannya?

Intisari-Online.com- Peneliti telah menunjukkan bagaimana manusia mengontrol sistem yang ditanami kecerdasan buatan.

Dalam kecerdasan buatan (AI), mesin melakukan tindakan, mengamati hasil, menyesuaikan tingkah laku, mengamati hasil baru, menyesuaikan tingkah laku lagi, dan seterusnya.

Tapi bisakah proses ini lepas kendali? Mungkin saja.

"AI akan selalu berusaha menghindari campur tangan manusia dan menciptakan situasi dimana hal itu tidak dapat dihentikan," kata Rachid Guerraoui, profesor EPFL seperti dilandir pada sciencedaily.com.

Baca Juga:(Video) Lakukan Ini saat akan Mendarat, Pilot Ini Dianggap Lakukan Manuver Paling Berbahaya di Dunia

Periset EPFL yang mempelajari masalah ini telah menemukan jalan bagi manusia untuk mengendalikan sekelompok robot AI.

Salah satu metode pembelajaran mesin yang digunakan di AI adalah pembelajaran penguatan, dimana agen diberi imbalan untuk melakukan tindakan tertentu - teknik yang dipinjam dari psikologi perilaku.

Dengan menerapkan teknik ini pada AI, para insinyur menggunakan sistem poin dimana mesin mendapatkan poin dengan melakukan tindakan yang benar.

Misalnya, robot bisa mendapatkan satu poin untuk menumpuk sekumpulan kotak dengan tepat dan satu poin lagi untuk mengambil kotak dari luar.

Tapi jika hari sedang hujan misalnya, manusia mencegah robot saat menuju ke luar untuk mengumpulkan sebuah kotak, robot tersebut akan belajar bahwa lebih baik tinggal di dalam rumah, menumpuk kotak dan menghasilkan banyak poin.

"Tantangannya bukan untuk menghentikan robot, melainkan untuk memprogramnya sehingga larangan tidak mengubah proses belajarnya dan tidak mendorongnya optimalisasi perilaku itu sehingga tidak berhenti," kata Guerraoui.

Dari satu mesin ke seluruh jaringan AI

Baca Juga:Keren! Hanya dengan Merekam Suara Kodok, Warga Australia Sudah Lestarikan Kodok

Pada tahun 2016, para periset dari Google DeepMind dan Future of Humanity Institute di Oxford University mengembangkan sebuah protokol pembelajaran yang mencegah mesin belajar dari gangguan/larangan dan dengan demikian menjadi tidak terkendali.

Misalnya, penghargaan robot -jumlah poin yang didapatnya- akan tertimbang oleh kemungkinan hujan, memberi robot itu insentif lebih besar untuk mengambil kotak di luar.

"Disini solusinya cukup sederhana karena kita berhadapan dengan satu robot saja," kata Guerraoui.

Namun, AI semakin banyak digunakan seperti mobil self-driving di jalan atau pesawat tak berawak di udara.

"Itu membuat segalanya menjadi lebih rumit, karena mesin mulai belajar satu sama lain - terutama dalam kasus larangan.

Mereka belajar tidak hanya dari bagaimana mereka dilarang manusia, tapi juga dari sesama mesin," kata Alexandre Maurer , salah satu penulis penelitian.

Hadrien Hendrikx, peneliti lain memberi contoh dua mobil self-driving yang saling mengikuti di jalan sempit dimana mereka tidak dapat saling melewati.

Baca Juga:CIA: Berperan Besar Tumbangkan PKI Sekaligus Terlibat dalam Berbagai Upaya Membunuh Presiden Soekarno

Mereka harus mencapai tujuan mereka secepat mungkin tanpa melanggar undang-undang lalu lintas.

Manusia di dalam mobil dapat mengambil alih kendali setir kapan saja.

Jika manusia di mobil pertama sering mengerem, mobil kedua akan menyesuaikan tingkah lakunya menjadi bingung kapan harus mengerem, mungkin menjaga jarak sedekat mungkin dengan mobil pertama atau memperlambat laju kemudi.

Membiarkan manusia memerintah

Kompleksitas inilah yang diharapkan oleh para peneliti EPFL melalui "interupsi yang aman."

Metode terobosan mereka memungkinkan manusia mengganggu proses belajar AI bila diperlukan - sambil memastikan bahwa interupsi tidak mengubah cara mesin belajar.

Baca Juga:Lewat BPJS-TK, Anak TKI yang Meninggal Dunia Diberi Beasiswa Sampai Lulus Serta Santunan Rp85 Juta "Sederhananya, kami menambahkan mekanisme 'lupa' ke algoritma pembelajaran yang pada dasarnya menghapus bit dari ingatan mesin.

Ini seperti perangkat flash di Men in Black," kata El Mahdi El Mhamdi, penulis studi lainnya.

Dengan kata lain, para periset mengubah sistem pembelajaran dan penghargaan mesin sehingga tidak terpengaruh oleh interupsi.

Ini seperti jika orang tua menghukum satu anak, itu tidak mempengaruhi proses belajar anak-anak lain dalam keluarga.

"Kami mengerjakan algoritma yang ada dan menunjukkan bahwa pelarangan yang aman dapat bekerja tidak peduli seberapa rumit sistem AI, jumlah robot yang terlibat, atau jenis larangan" kata Maurer.

Tentu saja manusia masih memegang kendali atas mesin/ robot.

Baca Juga:Ditawarkan Sebagai Akar Keberuntungan, Penis Kadal Ini Laku Rp857 Juta

Artikel Terkait