Kajian baharu yang dikarang bersama oleh Naveen Kumar dari Universiti Oklahoma menggariskan keperluan mendesak untuk mengurangkan berat sebelah dalam model AI generatif, penting untuk membuat keputusan yang adil dan telus merentas pelbagai sektor.
Dalam satu kajian baru diterbitkan dalam jurnal Maklumat & Pengurusan, penyelidik memanggil perhatian kepada keperluan mendesak untuk memerangi bias yang wujud dalam model AI generatif dengan membangun dan melaksanakan AI yang beretika dan boleh dijelaskan.
Penyelidikan menunjukkan bahawa apabila model bahasa besar (LLM) menjadi lebih berpatutan dan digunakan secara meluas, kecenderungan terbina dalam mereka boleh memberi kesan yang meluas dan memudaratkan.
"Memandangkan pemain antarabangsa seperti DeepSeek dan Alibaba mengeluarkan platform yang sama ada percuma atau lebih murah, akan ada perlumbaan harga AI global," kata pengarang bersama Naveen Kumar, profesor bersekutu sistem maklumat pengurusan di Kolej Perniagaan Universiti Oklahoma, dalam satu Siaran akhbar. “Apabila harga menjadi keutamaan, adakah masih akan diberi tumpuan kepada isu etika dan peraturan sekitar berat sebelah? Atau, kerana kini terdapat syarikat antarabangsa yang terlibat, adakah akan ada desakan untuk peraturan yang lebih pantas? Kami berharap ia adalah yang terakhir, tetapi kami perlu tunggu dan lihat.”
Kajian itu menyerlahkan bahawa hampir satu pertiga daripada individu yang ditinjau percaya mereka telah terlepas peluang seperti pekerjaan atau perkhidmatan kewangan disebabkan oleh algoritma AI yang berat sebelah. Kumar menyatakan bahawa walaupun usaha telah dibuat untuk menghapuskan berat sebelah eksplisit, berat sebelah tersirat kekal sebagai cabaran penting.
Apabila model AI menjadi lebih canggih, mengesan berat sebelah tersirat ini akan menjadi semakin sukar — menjadikan dasar etika lebih penting.
“Memandangkan LLM ini memainkan peranan yang lebih besar dalam masyarakat, khususnya dalam kewangan, pemasaran, perhubungan manusia dan juga penjagaan kesihatan, mereka mesti sejajar dengan keutamaan manusia. Jika tidak, mereka boleh membawa kepada hasil yang berat sebelah dan keputusan yang tidak adil,” tambah Kumar. “Model berat sebelah dalam penjagaan kesihatan boleh membawa kepada ketidaksamaan dalam penjagaan pesakit; algoritma pengambilan berat sebelah boleh memihak kepada satu jantina atau kaum berbanding yang lain; atau model pengiklanan berat sebelah mungkin mengekalkan stereotaip.”
Kumar dan rakan-rakannya menekankan kepentingan mewujudkan dasar AI dan etika yang boleh dijelaskan. Walau bagaimanapun, mereka juga menyeru para sarjana untuk merangka penyelesaian teknikal dan organisasi yang proaktif untuk memantau dan mengurangkan berat sebelah LLM. Mereka menyokong pendekatan yang seimbang untuk memastikan aplikasi AI kekal berkesan, adil dan telus.
“Industri ini bergerak sangat pantas, jadi akan ada banyak ketegangan antara pihak berkepentingan dengan objektif yang berbeza. Kita mesti mengimbangi kebimbangan setiap pemain — pembangun, eksekutif perniagaan, ahli etika, pengawal selia — untuk menangani berat sebelah dengan sewajarnya dalam model LLM ini,” tambah Kumar. "Mencari titik manis merentas domain perniagaan yang berbeza dan peraturan serantau yang berbeza akan menjadi kunci kejayaan."
Memandangkan AI terus berkembang, penyelidikan ini menekankan keperluan untuk pendekatan berwaspada dan beretika untuk memastikan kuasa transformatif AI memberi manfaat kepada semua orang secara adil dan saksama.