:quality(100)/photo/2018/04/22/3572694841.jpg)
Advertorial
Intisari-Online.com- Peneliti telah menunjukkan bagaimana manusia mengontrol sistem yang ditanami kecerdasan buatan.
Dalam kecerdasan buatan (AI), mesin melakukan tindakan, mengamati hasil, menyesuaikan tingkah laku, mengamati hasil baru, menyesuaikan tingkah laku lagi, dan seterusnya.
Tapi bisakah proses ini lepas kendali? Mungkin saja.
"AI akan selalu berusaha menghindari campur tangan manusia dan menciptakan situasi dimana hal itu tidak dapat dihentikan," kata Rachid Guerraoui, profesor EPFL seperti dilandir pada sciencedaily.com.
Baca Juga:(Video) Lakukan Ini saat akan Mendarat, Pilot Ini Dianggap Lakukan Manuver Paling Berbahaya di Dunia
Periset EPFL yang mempelajari masalah ini telah menemukan jalan bagi manusia untuk mengendalikan sekelompok robot AI.
Salah satu metode pembelajaran mesin yang digunakan di AI adalah pembelajaran penguatan, dimana agen diberi imbalan untuk melakukan tindakan tertentu - teknik yang dipinjam dari psikologi perilaku.
Dengan menerapkan teknik ini pada AI, para insinyur menggunakan sistem poin dimana mesin mendapatkan poin dengan melakukan tindakan yang benar.
Misalnya, robot bisa mendapatkan satu poin untuk menumpuk sekumpulan kotak dengan tepat dan satu poin lagi untuk mengambil kotak dari luar.
Tapi jika hari sedang hujan misalnya, manusia mencegah robot saat menuju ke luar untuk mengumpulkan sebuah kotak, robot tersebut akan belajar bahwa lebih baik tinggal di dalam rumah, menumpuk kotak dan menghasilkan banyak poin.
"Tantangannya bukan untuk menghentikan robot, melainkan untuk memprogramnya sehingga larangan tidak mengubah proses belajarnya dan tidak mendorongnya optimalisasi perilaku itu sehingga tidak berhenti," kata Guerraoui.
Dari satu mesin ke seluruh jaringan AI
Pada tahun 2016, para periset dari Google DeepMind dan Future of Humanity Institute di Oxford University mengembangkan sebuah protokol pembelajaran yang mencegah mesin belajar dari gangguan/larangan dan dengan demikian menjadi tidak terkendali.
Misalnya, penghargaan robot -jumlah poin yang didapatnya- akan tertimbang oleh kemungkinan hujan, memberi robot itu insentif lebih besar untuk mengambil kotak di luar.
"Disini solusinya cukup sederhana karena kita berhadapan dengan satu robot saja," kata Guerraoui.
Namun, AI semakin banyak digunakan seperti mobil self-driving di jalan atau pesawat tak berawak di udara.
"Itu membuat segalanya menjadi lebih rumit, karena mesin mulai belajar satu sama lain - terutama dalam kasus larangan.
Mereka belajar tidak hanya dari bagaimana mereka dilarang manusia, tapi juga dari sesama mesin," kata Alexandre Maurer , salah satu penulis penelitian.
Hadrien Hendrikx, peneliti lain memberi contoh dua mobil self-driving yang saling mengikuti di jalan sempit dimana mereka tidak dapat saling melewati.
Mereka harus mencapai tujuan mereka secepat mungkin tanpa melanggar undang-undang lalu lintas.
Manusia di dalam mobil dapat mengambil alih kendali setir kapan saja.
Jika manusia di mobil pertama sering mengerem, mobil kedua akan menyesuaikan tingkah lakunya menjadi bingung kapan harus mengerem, mungkin menjaga jarak sedekat mungkin dengan mobil pertama atau memperlambat laju kemudi.
Membiarkan manusia memerintah
Kompleksitas inilah yang diharapkan oleh para peneliti EPFL melalui "interupsi yang aman."
Metode terobosan mereka memungkinkan manusia mengganggu proses belajar AI bila diperlukan - sambil memastikan bahwa interupsi tidak mengubah cara mesin belajar.
Ini seperti perangkat flash di Men in Black," kata El Mahdi El Mhamdi, penulis studi lainnya.
Dengan kata lain, para periset mengubah sistem pembelajaran dan penghargaan mesin sehingga tidak terpengaruh oleh interupsi.
Ini seperti jika orang tua menghukum satu anak, itu tidak mempengaruhi proses belajar anak-anak lain dalam keluarga.
"Kami mengerjakan algoritma yang ada dan menunjukkan bahwa pelarangan yang aman dapat bekerja tidak peduli seberapa rumit sistem AI, jumlah robot yang terlibat, atau jenis larangan" kata Maurer.
Tentu saja manusia masih memegang kendali atas mesin/ robot.
Baca Juga:Ditawarkan Sebagai Akar Keberuntungan, Penis Kadal Ini Laku Rp857 Juta