Intisari-Online.com- Peneliti telah menunjukkan bagaimana manusia mengontrol sistem yang ditanami kecerdasan buatan.
Dalam kecerdasan buatan (AI), mesin melakukan tindakan, mengamati hasil, menyesuaikan tingkah laku, mengamati hasil baru, menyesuaikan tingkah laku lagi, dan seterusnya.
Tapi bisakah proses ini lepas kendali? Mungkin saja.
"AI akan selalu berusaha menghindari campur tangan manusia dan menciptakan situasi dimana hal itu tidak dapat dihentikan," kata Rachid Guerraoui, profesor EPFL seperti dilandir pada sciencedaily.com.
Periset EPFL yang mempelajari masalah ini telah menemukan jalan bagi manusia untuk mengendalikan sekelompok robot AI.
Salah satu metode pembelajaran mesin yang digunakan di AI adalah pembelajaran penguatan, dimana agen diberi imbalan untuk melakukan tindakan tertentu - teknik yang dipinjam dari psikologi perilaku.
Dengan menerapkan teknik ini pada AI, para insinyur menggunakan sistem poin dimana mesin mendapatkan poin dengan melakukan tindakan yang benar.
Misalnya, robot bisa mendapatkan satu poin untuk menumpuk sekumpulan kotak dengan tepat dan satu poin lagi untuk mengambil kotak dari luar.
Tapi jika hari sedang hujan misalnya, manusia mencegah robot saat menuju ke luar untuk mengumpulkan sebuah kotak, robot tersebut akan belajar bahwa lebih baik tinggal di dalam rumah, menumpuk kotak dan menghasilkan banyak poin.
"Tantangannya bukan untuk menghentikan robot, melainkan untuk memprogramnya sehingga larangan tidak mengubah proses belajarnya dan tidak mendorongnya optimalisasi perilaku itu sehingga tidak berhenti," kata Guerraoui.
Dari satu mesin ke seluruh jaringan AI