Setiap kali anda, keluarga atau kawan anda memuat naik foto atau video ke platform media sosial, algoritma pengenalan wajah mengetahui lebih lanjut mengenai siapa anda, siapa yang anda tahu dan di mana anda berada.
Untuk mengambil kira kebimbangan privasi orang, penyelidik di University of Toronto (U of T) telah berkembang sebuah algoritma yang boleh mengganggu sistem pengiktirafan muka, dan melarang sistem daripada mempelajari lebih lanjut mengenai anda.
Kajian penuh, menjelaskan algoritma, boleh didapati disini.
"Kami dapat menipu sebuah algoritma pengesanan wajah yang terkini dengan menyerang mereka," ujarnya. Avishek Bose, seorang pelajar siswazah di Jabatan Elektrik dan
Kejuruteraan Komputer di U of T dan pengarang bersama kajian ini.
"Privasi peribadi adalah isu sebenar apabila pengenalan muka menjadi lebih baik dan lebih baik," Parham Aarabi, profesor bersekutu di Jabatan Kejuruteraan Elektrik dan Komputer di U of T dan pengarang bersama kajian itu, dalam satu kenyataan. "Ini adalah satu cara di mana sistem pengiktirafan anti-muka yang bermanfaat dapat menentang keupayaan itu."
Teknik ini
Penyelesaian pasukan melibatkan membuat dua algoritma kecerdasan buatan, pengesan wajah dan penjana musuh, bersaing antara satu sama lain, jelas Bose.
Pengesan wajah berfungsi untuk mengenal pasti wajah, dan penjana musuh berfungsi sepenuhnya untuk mengganggu pengesan wajah.
"Pengesan wajah tidak mempunyai pengetahuan tentang kewujudan penjana musuh, sementara penjana belajar dari masa ke masa bagaimana berjaya menipu pengesan," kata Bose. "Pada mulanya penjana sangat buruk melakukannya, tetapi ia belajar dengan mengamati kesilapannya, seperti yang ditentukan oleh output pengesan wajah."
Penjana musuh akhirnya mendapat titik di mana ia mampu menipu pengesan wajah hampir 99 peratus masa.
Pada asasnya, penyelidik mencipta penapis seperti Instagram yang boleh digunakan untuk foto untuk melindungi privasi peribadi.
Algoritma baru membuat sedikit perubahan kepada piksel dalam imej yang tidak dapat dilihat oleh manusia, tetapi mampu menipu pengesan wajah yang canggih.
"AI yang mengganggu boleh 'menyerang' apa yang bersih saraf untuk pengesanan wajah dicari," kata Bose dalam satu kenyataan. "Sekiranya pengesanan AI mencari sudut mata, contohnya, ia menyesuaikan sudut mata supaya mereka kurang ketara. Ia mencipta gangguan yang sangat halus dalam gambar, tetapi kepada pengesan mereka cukup penting untuk menipu sistem. "
Para penyelidik menguji sistem mereka di sekeliling wajah 600, termasuk pelbagai etnik, persekitaran dan keadaan pencahayaan yang berbeza.
Sistem ini mengurangkan jumlah peranti pengenalan wajah pada asalnya dapat mengesan dari hampir 100 peratus kepada hanya 0.5 peratus.
Di samping itu, teknologi boleh mengganggu carian berasaskan imej, anggaran etnik, pengenalan ciri, emosi dan mana-mana atribut berasaskan muka lain yang mampu diekstrak secara automatik.
Motivasi
Kajian ini telah dicetuskan oleh minat Aarabi dan Bose dalam meneliti mod kegagalan algoritma pengesanan wajah dan pengiktirafan muka berasaskan pembelajaran mendalam.
"Kami pada mulanya bermula dengan menguji algoritma ini kepada keadaan yang melampau seperti kabur, kecerahan, dan kegelapan," kata Bose.
Dari eksperimen mereka, para penyelidik melihat bahawa walaupun gambar dalam keadaan yang baik kadang-kadang boleh menyebabkan peranti gagal, yang berkaitan dengan beberapa kesusasteraan baru mengenai serangan musuh, jelas Bose.
"Pada dasarnya, serangan musuh menyebabkan perubahan kecil dan sering tidak dapat dilihat pada imej masukan, yang menyebabkan model pembelajaran mesin gagal bencana," kata Bose.
"Ini adalah fenomena yang diketahui dalam banyak Model Pembelajaran Deep tetapi ia tidak pernah disiasat dalam konteks sistem Pengesanan Muka / Pengiktirafan Muka."
Apa yang akan datang?
Aarabi dan Bose ingin memperluaskan gaya serangan ini ke kelas pengesan yang lain. Walaupun ini mungkin sukar atau mustahil dalam sesetengah kes, matlamat utama adalah memahami dan mencirikan konsep tersebut.
Apabila penyelidik berjaya dalam melaksanakan tugas ini terhadap pelbagai kelas pengesan, alat boleh dibuat, tetapi mereka masih jauh dari ini, kata Bose.
"Pada masa akan datang, anda boleh membayangkan sebuah aplikasi yang menggunakan penapis privasi ini ke foto anda sebelum anda memuat naik internet," jelasnya.
Tetapi pada masa ini, banyak penyelidikan masih perlu dilakukan.
"Kertas kami hanyalah titik permulaan dan bukannya apa-apa yang dekat dengan matlamat akhir," kata Bose.
Bose ingin mencatatkan bahawa walaupun para penyelidik dapat menipu algoritma pengesanan wajah yang canggih, mereka belum lagi dapat menyerang setiap peranti pengesan muka.
"Ini adalah langkah kecil untuk matlamat yang lebih besar di mana kita memberi kuasa kepada pengguna untuk melindungi privasi mereka sendiri jika mereka memilih," kata Bose.
