Umur troll internet tidak lama lagi akan berakhir, seperti penyelidik di Caltech dan Stanford meletakkan asas untuk alat AI yang efektif yang akhirnya boleh digunakan oleh rangkaian media sosial untuk membidas ucapan dan gangguan dalam talian.
Ini amat penting hari ini, kerana ramai yang percaya bahawa terdapat peningkatan dalam retorik dalam talian yang benci dibuat bilik untuk penembakan massa yang kerap dan jenayah ganas.
Walaupun banyak laman media sosial telah beralih kepada AI untuk memantau ucapan benci dan gangguan pada platform mereka, kaedah yang ada jauh dari sempurna.
Dalam baru-baru ini mengkaji, para penyelidik dari University of Washington mendapati bahawa alat AI yang terkemuka yang direka untuk mengangkat kebencian mempunyai sikap berat sebelah terhadap kaum Amerika Afrika. Mereka mendapati bahawa tweet adalah satu setengah kali lebih mungkin dilabel sebagai "menyinggung" apabila mereka ditulis oleh orang kulit hitam. Dan mereka kira-kira dua kali lebih mungkin dilabelkan sebagai "menyinggung" apabila ditulis dalam apa yang diteliti oleh para penyelidik "African American English."
A berasingan mengkaji yang dijalankan oleh penyelidik Cornell mendedahkan hasil yang sama.
Terutamanya, ini kerana banyak alat AI sedia ada bergantung pada kata kunci dan tidak berkesan dalam mengukur konteks. Misalnya, "n-word," boleh menjadi kebencian atau penampilan yang bergantung pada demografi yang digunakan olehnya. Jadi menandakan sesuatu daripada konteks, berdasarkan kata-kata yang digunakan, bukan penyelesaian yang berkesan.
"Sistem ini sedang dibangunkan untuk mengenal pasti bahasa yang digunakan untuk menyasarkan populasi yang terpinggir dalam talian," kata Thomas Davidson, calon doktor dalam sosiologi dan penulis utama kajian Cornell, dalam satu Siaran akhbar. "Ia amat membimbangkan jika sistem yang sama mereka sendiri membezakan terhadap penduduk yang mereka direka untuk melindungi."
Untuk menambah alat AI sedia ada, banyak laman media sosial juga bergantung kepada pengguna mereka untuk menunjukkan ucapan yang kasar dan penuh kebencian. Walaupun, ia jelas bukan penyelesaian jangka panjang yang berkesan.
"Ia tidak boleh diperkatakan agar manusia cuba melakukan kerja ini dengan tangan, dan orang-orang itu berpotensi bias," kata Maya Srikanth, seorang junior di Caltech dan pengarang penulis kajian Caltech / Stanford, dalam satu Siaran akhbar. "Di sisi lain, carian kata kunci menderita dari kelajuan di mana perbualan dalam talian berkembang. Istilah baru muncul dan istilah lama mengubah makna, jadi kata kunci yang digunakan dengan tulus suatu hari mungkin bermaksud secara sinis berikutnya. "
Jadi sebaliknya, pasukannya menggunakan model GloVe (Global Vectors for Word Representation) untuk mencari kata kunci baru dan relevan.
GloVe adalah model perkataan-embedding. Bermula dengan satu perkataan, ia boleh digunakan untuk mencari kluster istilah yang bersifat bahasa dan semantik berkaitan dengan kata asal. Sebagai contoh, apabila para penyelidik menggunakan model GloVe untuk mencari Twitter untuk menggunakan "MeToo," cluster yang berkaitan hashteg muncul, termasuk "SupportSurvivors," "Tidak Senyap" dan "Saya Dengan Dia." Model ini memberikan para penyelidik keupayaan untuk menjejaki kata kunci dan frasa kerana mereka berubah dari masa ke masa dan membolehkan mereka mencari yang baru ketika muncul.
GloVe juga menganggap konteks, menunjukkan sejauh mana kata kunci tertentu dikaitkan dan memberi input kepada bagaimana kata-kata digunakan. Sebagai contoh, dalam forum Reddit dalam talian yang digunakan oleh kumpulan aktivis hak anti-feminis, model ini menentukan bahawa istilah "perempuan" digunakan dengan kata-kata seperti "persetubuhan," "negatif" dan "seksual." Siaran mengenai pergerakan "MeToo", istilah "perempuan" adalah paling biasa di sebelah kata-kata seperti "syarikat," "keinginan" dan "kapitalis."
Pada masa ini, kajian ini memberikan bukti-konsep, membuktikan cara yang lebih kuat dan berkesan untuk melihat gangguan dalam talian wujud. Walau bagaimanapun, selepas ujian lanjut, pasukan berharap penemuannya boleh digunakan untuk menghilangkan internet trolls, menjadikan laman media sosial tempat untuk perbualan yang menyokong dan produktif dan bukannya yang kasar.
Anima Anandkumar, pengarang bersama kajian itu dan Profesor Pengkomputeran dan Matematik Bren di Caltech, menjelaskan bahawa pada tahun 2018, dia mendapati dirinya sebagai mangsa gangguan dalam talian. "Ia adalah pengalaman pembukaan mata tentang bagaimana tontonan hodoh boleh diperolehi," katanya dalam satu siaran berita. "Mudah-mudahan, alat yang kami sedang berkembang sekarang akan membantu melawan semua jenis gangguan pada masa akan datang."
