PIKIRAN RAKYAT - Studi terbaru menunjukkan adanya kekhawatiran terkait perkembangan Artificial Intelligence (AI) atau kecerdasan buatan karena kecepatannya mempelajari dan menerapkan pengetahuan yang dipelajari robot tersebut.
Para peneliti dalam studi yang diterbitkan dalam jurnal Patterns, mengindikasikan bahwa system AI telah menunjukkan kemampuan untuk menipu manusia.
Mereka menggunakan teknik manipulasi, penjilat, dan kecurangan dalam upaya membuat robot tersebut semakin canggih dalam menangkap informasi yang diberikan.
Peneliti khawatir munculnya distopia yang menakutkan. Misalnya saat menyelesaikan pengujian CAPTCHA dengan menunjukkan lampu lalu lintas, di kemudian hari, manusia harus berhati-hati dengan adanya manipulasi dari AI.
"Sistem AI sudah mampu menipu manusia," kata peneliti dalam studi berjudul "AI deception: A survey of examples, risks, and potential solutions", dikutip dari UNILAD pada Senin, 3 Juni 2024.
Kendati hal ini mengkhawatirkan, mungkin ada permasalahan yang lebih besar dalam jangka pendek dan jangka panjang.
"Peningkatan kemampuan AI dalam melakukan manipulasi menimbulkan risiko yang serius, mulai dari jangka pendek, seperti penipuan dan gangguan pemilu, hingga risiko jangka panjang, seperti kehilangan kendali atas sistem AI," katanya.
"Solusi proaktif diperlukan, seperti kerangka peraturan untuk menilai risiko penipuan AI, undang-undang yang mewajibkan transparansi tentang interaksi AI, dan penelitian lebih lanjut untuk mendeteksi dan mencegah penipuan AI," sambung para peneliti.
"Menangani masalah penipuan AI secara proaktif sangat penting untuk memastikan bahwa AI bertindak sebagai teknologi bermanfaat yang menambah dan bukannya menggoyahkan pengetahuan, wacana, dan institusi manusia," katanya.