Satu kajian di Universiti Washington menunjukkan bahawa AI boleh mempelajari nilai-nilai khusus budaya, seperti altruisme, dengan memerhatikan orang ramai bermain permainan video koperatif. Kajian ini menunjukkan sistem AI masa depan yang lebih mencerminkan komuniti yang mereka layani.
Kecerdasan buatan mungkin suatu hari nanti belajar untuk "menyesuaikan diri" dengan budaya yang berbeza seperti kanak-kanak — dengan memerhati dan menyerap bagaimana orang melayan satu sama lain.
Dalam satu kajian baru diterbitkan Dalam PLOS One, penyelidik Universiti Washington menunjukkan bahawa sistem AI boleh mengambil nilai-nilai khusus budaya seperti altruisme hanya dengan memerhatikan orang ramai bermain permainan video koperatif. AI kemudiannya membawa nilai-nilai yang dipelajari tersebut ke dalam situasi yang sama sekali berbeza.
Kerja ini menangani kebimbangan yang semakin meningkat dalam AI: kebanyakan sistem besar dilatih berdasarkan data yang diambil dari seluruh internet, yang cenderung mencerminkan nilai sesetengah kumpulan lebih daripada yang lain. Ini boleh membawa kepada alatan dan chatbot yang terasa tidak selari dengan banyak komuniti.
“Kita tidak seharusnya mengkodkan satu set nilai universal ke dalam sistem AI, kerana banyak budaya mempunyai nilai mereka sendiri,” kata penulis kanan Rajesh Rao, seorang profesor UW di Sekolah Sains Komputer & Kejuruteraan Paul G. Allen dan pengarah bersama Pusat Neuroteknologi, dalam siaran akhbar. “Jadi kami ingin mengetahui sama ada sistem AI boleh mempelajari nilai seperti yang dilakukan oleh kanak-kanak, dengan memerhatikan orang dalam budaya mereka dan menyerap nilai-nilai mereka.”
Untuk meneroka idea itu, pasukan UW beralih kepada tempat latihan yang mengejutkan: versi diubah suai bagi permainan memasak koperasi popular Overcooked.
Dalam eksperimen ini, 190 orang dewasa yang mengenal pasti diri mereka sebagai orang kulit putih dan 110 orang yang mengenal pasti diri mereka sebagai orang Latino memainkan versi khas permainan ini. Pemain perlu memasak dan menghantar sup bawang sebanyak mungkin. Di skrin, mereka dapat melihat dapur lain di mana pemain kedua perlu berjalan lebih jauh untuk menyelesaikan tugasan yang sama, sekali gus meletakkan pemain tersebut dalam keadaan yang tidak menguntungkan.
Apa yang peserta manusia tidak tahu ialah pemain kedua sebenarnya adalah bot yang dikawal oleh komputer. Bot itu diprogramkan untuk meminta bantuan, dan manusia mempunyai pilihan: mereka boleh menyerahkan sebahagian daripada bawang mereka untuk membantu pasangan yang kurang bernasib baik, mengorbankan skor mereka sendiri, atau menyimpan bawang dan fokus untuk memaksimumkan kejayaan mereka sendiri.
Setiap kumpulan budaya — kulit putih dan Latino — dipasangkan dengan "ejen" AI mereka sendiri, iaitu sistem perisian yang direka untuk belajar daripada tingkah laku. Daripada diberitahu apa yang perlu dilakukan atau diberi ganjaran yang jelas, ejen-ejen ini menggunakan teknik yang dipanggil pembelajaran peneguhan songsang.
Dalam pembelajaran peneguhan standard, AI diberikan matlamat dan diberi ganjaran apabila ia semakin hampir dengan matlamat tersebut, seperti robot yang belajar bermain tenis dengan menjaringkan mata. Dalam pembelajaran peneguhan songsang, AI memerhatikan manusia atau ejen lain dan cuba membuat kesimpulan tentang matlamat dan nilai yang mesti mendorong tindakan mereka.
Pendekatan ini, para penyelidik berpendapat, lebih dekat dengan bagaimana orang ramai, terutamanya kanak-kanak, sebenarnya belajar.
Penulis bersama Andrew Meltzoff, seorang profesor psikologi UW dan pengarah bersama Institut Pembelajaran & Sains Otak, membuat persamaan langsung dengan keibubapaan.
“Ibu bapa tidak hanya melatih anak-anak untuk melakukan tugasan tertentu berulang kali. Sebaliknya, mereka mencontohi atau bertindak dengan cara umum yang mereka mahu anak-anak mereka bertindak. Contohnya, mereka mencontohi perkongsian dan keprihatinan terhadap orang lain,” katanya dalam siaran berita itu. “Kanak-kanak belajar hampir secara osmosis bagaimana orang bertindak dalam sesebuah komuniti atau budaya. Nilai-nilai kemanusiaan yang mereka pelajari lebih banyak 'ditangkap' daripada 'diajar'.”
Dengan memasukkan data permainan Overcooked ke dalam ejen AI, pasukan tersebut membiarkan setiap sistem "memerhatikan" bagaimana orang daripada kumpulan budaya yang ditugaskan bertindak apabila berhadapan dengan pilihan antara kepentingan diri dan membantu seseorang yang berada dalam keadaan tidak menguntungkan.
Secara purata, peserta dalam kumpulan Latino lebih kerap memilih untuk membantu pasangan yang kurang bernasib baik berbanding peserta dalam kumpulan kulit putih. Ejen AI mengesan corak ini. Apabila mereka kemudian bermain permainan itu sendiri, ejen yang dilatih menggunakan data pemain Latino memberikan lebih banyak maklumat berbanding ejen yang dilatih menggunakan data pemain kulit putih, mencerminkan tingkah laku yang lebih altruistik yang telah diperhatikan.
Untuk melihat sama ada AI benar-benar telah mempelajari nilai umum — bukan sekadar helah khusus permainan — para penyelidik menjalankan ujian kedua. Kali ini, ejen menghadapi keputusan moral yang berbeza: sama ada untuk mendermakan sebahagian wang mereka kepada seseorang yang memerlukan.
Sekali lagi, ejen yang dilatih berdasarkan data daripada peserta Latino dalam Overcooked bertindak lebih altruistik, memilih untuk memberikan lebih banyak sumbernya. Ini menunjukkan bahawa sistem telah menginternalisasikan keutamaan yang lebih luas untuk membantu orang lain, bukan hanya strategi yang berkaitan dengan bawang dan sup.
Hasilnya merupakan petanda awal tetapi menjanjikan bahawa AI boleh ditala untuk mencerminkan nilai-nilai komuniti tertentu dengan lebih baik dengan belajar daripada tingkah laku seharian mereka, menurut Rao.
"Kami berpendapat bahawa demonstrasi bukti konsep kami akan berskala apabila anda meningkatkan jumlah dan kepelbagaian data khusus budaya yang anda berikan kepada ejen AI. Dengan menggunakan pendekatan sedemikian, syarikat AI berpotensi memperhalusi model mereka untuk mempelajari nilai budaya tertentu sebelum menggunakan sistem AI mereka dalam budaya tersebut," tambah Rao.
Kajian ini dibina berdasarkan penyelidikan UW terdahulu menunjukkan bahawa kanak-kanak berusia 19 bulan yang dibesarkan dalam isi rumah Latino dan Asia lebih cenderung kepada altruisme berbanding mereka yang berasal dari latar belakang budaya lain. Dengan mengulangi corak itu dalam AI, kajian baharu ini menunjukkan bahawa mesin, dalam cara yang terhad, boleh mencerminkan proses pembelajaran nilai yang dilihat dalam perkembangan manusia.
Pada masa yang sama, para penyelidik menekankan bahawa ini hanyalah langkah pertama. Eksperimen tersebut hanya melibatkan dua kumpulan budaya, persekitaran permainan yang dipermudahkan dan tumpuan yang agak sempit terhadap altruisme. Latar dunia sebenar jauh lebih kompleks, dengan banyak budaya yang bertindih, nilai yang bercanggah dan keputusan yang berisiko tinggi.
Kajian masa hadapan perlu menguji prestasi pembelajaran peneguhan songsang apabila sistem AI terdedah kepada data yang lebih kaya dan lebih bersepah daripada kehidupan seharian, dan apabila mereka mesti menavigasi pertukaran antara nilai-nilai yang bersaing seperti keadilan, kesetiaan, privasi dan kecekapan.
“Mewujudkan AI yang selaras dengan budaya merupakan persoalan penting bagi masyarakat,” tambah Meltzoff. “Bagaimanakah kita mewujudkan sistem yang boleh mengambil kira perspektif orang lain dan menjadi berfikiran sivik?”
Jawapan pasukan UW, sekurang-kurangnya buat masa ini, adalah untuk membiarkan AI memerhatikan kita dengan lebih teliti — bukan sahaja apa yang kita katakan kita hargai, tetapi bagaimana kita sebenarnya bertindak ketika membantu orang lain ada kosnya. Jika pendekatan itu berskala, AI masa depan mungkin kurang tentang mengenakan satu buku peraturan global dan lebih banyak tentang pembelajaran, komuniti demi komuniti, apa ertinya menjadi jiran yang baik.
sumber: Universiti Washington