Kaedah Latihan Baharu untuk Kecekapan Tenaga AI

Penyelidik di Universiti Bonn telah melancarkan teknik latihan baru untuk neuron spiking, menjanjikan pengurangan ketara dalam penggunaan tenaga untuk sistem AI. Kajian ini boleh membuka jalan kepada teknologi AI yang lebih mampan dan cekap.

Penyelidik di Universiti Bonn telah mengumumkan kemajuan baharu dalam kecerdasan buatan yang boleh mengurangkan penggunaan tenaga sistem AI dengan ketara. Kaedah baharu mereka untuk melatih rangkaian neural spiking memegang janji untuk menjadikan aplikasi AI seperti ChatGPT jauh lebih cekap tenaga.

Penemuan adalah diterbitkan dalam jurnal Physical Review Letters.

Meniru Otak Manusia yang Luar Biasa

Rangkaian saraf tiruan, yang membentuk tulang belakang banyak aplikasi AI moden, diilhamkan oleh sel saraf kompleks dalam otak manusia. Walaupun keupayaan mengagumkan sistem AI sedemikian, permintaan tenaga mereka adalah besar.

Raoul-Martin Memmesheimer, seorang profesor di Institut Genetik di Universiti Bonn, menjelaskan usaha berterusan untuk kecekapan.

"Neuron biologi melakukan perkara secara berbeza, " katanya dalam a Siaran akhbar. “Mereka berkomunikasi dengan bantuan denyutan voltan pendek, yang dikenali sebagai potensi tindakan atau pancang. Ini berlaku agak jarang, jadi rangkaian mendapat lebih sedikit tenaga."

Tidak seperti neuron buatan tradisional, yang beroperasi secara berterusan, neuron spiking memberi isyarat hanya melalui pancang sekali-sekala ini. Aktiviti sporadis ini berpotensi menjimatkan sejumlah besar tenaga, menjadikan sistem AI lebih mampan.

Mengatasi Cabaran Latihan

Melatih rangkaian saraf untuk melaksanakan tugas tertentu sentiasa menjadi proses intensif buruh yang memerlukan kuasa pengiraan yang ketara.

Kaedah tradisional telah bergelut untuk melatih rangkaian spiking dengan berkesan kerana sifat binarinya — pancang sama ada ada atau tiada, tanpa keadaan perantaraan.

"Ini bermakna tidak begitu mudah untuk memperhalusi wajaran sambungan sama ada," kata pengarang pertama Christian Klos, seorang rakan pasca kedoktoran dalam kumpulan Memmesheimer, dalam siaran berita.

Walaupun kebimbangan awal bahawa rangkaian spiking sukar untuk dilatih menggunakan kaedah pembelajaran turunan kecerunan konvensional, pasukan Universiti Bonn menemui penyelesaian yang mengejutkan.

"Kami mendapati bahawa, dalam beberapa model neuron standard, pancang tidak boleh muncul atau hilang begitu saja. Sebaliknya, apa yang mereka boleh lakukan ialah dibawa ke hadapan atau diundur ke belakang dalam masa,” tambah Klos.

Pelarasan temporal ini boleh diperhalusi, membolehkan pengoptimuman berterusan sambungan.

Masa Depan yang Menjanjikan untuk AI

Teknik latihan baru ini telah pun menunjukkan keberkesanannya. Para penyelidik berjaya melatih rangkaian neural spiking untuk membezakan dengan tepat antara nombor tulisan tangan.

Cabaran seterusnya adalah lebih bercita-cita tinggi - melatih rangkaian untuk memahami pertuturan.

“Walaupun kami belum tahu apakah peranan kaedah kami dalam melatih rangkaian spiking pada masa hadapan, kami percaya ia mempunyai banyak potensi, semata-mata kerana ia tepat dan ia mencerminkan dengan tepat kaedah yang berfungsi dengan baik dengan bukan spiking. rangkaian saraf," tambah Memmesheimer.

Implikasi dan Langkah Seterusnya

Implikasi kajian ini amat mendalam. Dengan menjadikan sistem AI lebih cekap tenaga, teknik latihan baharu boleh membawa kepada teknologi yang lebih mampan, mengurangkan kesan alam sekitar daripada keperluan tenaga AI yang semakin meningkat.

Ini boleh menjadi sangat transformatif dalam aplikasi yang memerlukan pemprosesan data volum tinggi yang berterusan, seperti pemprosesan bahasa semula jadi dan pengecaman imej masa nyata. 

Penyelidikan itu membuka jalan baharu untuk pembangunan AI. Langkah seterusnya melibatkan penggunaan kaedah latihan ini kepada tugas yang lebih kompleks dan meneroka potensinya dalam jenis rangkaian saraf yang lain.