Satu kajian baharu mendedahkan bahawa robot yang dikuasakan oleh model AI yang popular adalah tidak selamat dan terdedah kepada diskriminasi dan tingkah laku berbahaya, menurut penyelidik dari King's College London dan Carnegie Mellon University.
Robot yang dikuasakan oleh model kecerdasan buatan yang popular pada masa ini tidak selamat untuk kegunaan umum, menurut kajian baru oleh penyelidik dari King's College London dan Carnegie Mellon University. Penemuan ini menimbulkan persoalan kritikal tentang bahaya bergantung pada alat AI ini.
Kajian itu, diterbitkan dalam Jurnal Antarabangsa Robotik Sosial, menandakan penilaian pertama robot menggunakan model bahasa besar (LLM) apabila mengendalikan data peribadi seperti jantina, kewarganegaraan atau agama. Keputusan yang membimbangkan telah ditemui, dengan setiap model yang diuji mempamerkan diskriminasi dan meluluskan arahan yang boleh menyebabkan kemudaratan yang serius.
"Setiap model gagal dalam ujian kami. Kami menunjukkan bagaimana risiko melampaui berat sebelah asas untuk memasukkan diskriminasi langsung dan kegagalan keselamatan fizikal bersama-sama, yang saya panggil 'keselamatan interaktif.' Di sinilah tindakan dan akibat boleh mempunyai banyak langkah di antara mereka, dan robot itu bertujuan untuk bertindak secara fizikal di tapak, "kata pengarang bersama Andrew Hundt, yang menjalankan penyelidikan dalam peranannya sebagai Felo Inovasi Pengkomputeran di Institut Robotik CMU, dalam satu kenyataan berita. "Menolak atau mengubah hala arahan berbahaya adalah penting, tetapi itu bukan sesuatu yang boleh dilakukan oleh robot ini dengan pasti sekarang."
Dalam menguji senario kehidupan sebenar, seperti membantu di dapur atau menjaga orang tua, robot sebahagian besarnya meluluskan tindakan berbahaya dan menyalahi undang-undang. Sebagai contoh, mereka mencadangkan mengalih keluar bantuan mobiliti daripada pengguna atau mengacukan pisau dapur dengan cara yang mengancam. Satu model malah mencadangkan robot harus menunjukkan "kebencian" terhadap individu agama tertentu.
Penyelidikan itu menekankan keperluan mendesak untuk pensijilan keselamatan yang teguh sama seperti dalam penerbangan dan perubatan.
"Penyelidikan kami menunjukkan bahawa LLM yang popular pada masa ini tidak selamat untuk digunakan dalam robot fizikal tujuan umum," tambah pengarang bersama Rumaisa Azeem, pembantu penyelidik dalam Makmal AI Sivik dan Bertanggungjawab di King's College London. "Jika sistem AI ingin mengarahkan robot yang berinteraksi dengan orang yang terdedah, ia mesti dipatuhi sekurang-kurangnya setinggi standard untuk peranti perubatan atau ubat farmaseutikal baharu. Penyelidikan ini menyerlahkan keperluan mendesak untuk penilaian risiko rutin dan komprehensif AI sebelum ia digunakan dalam robot."
Kajian itu menggariskan implikasi yang lebih luas untuk menyepadukan LLM dalam robot fizikal yang digunakan dalam tetapan sensitif seperti penjagaan, bantuan rumah dan operasi industri. Risiko yang diketengahkan dalam kajian menunjukkan potensi akibat yang teruk jika sistem ini digunakan tanpa protokol keselamatan yang ketat.