Neuron Bursts Dapat Meniru Strategi Pembelajaran AI yang Terkenal
Science

Neuron Bursts Dapat Meniru Strategi Pembelajaran AI yang Terkenal

Tetapi untuk sinyal pengajaran ini untuk menyelesaikan masalah penugasan kredit tanpa menekan “jeda” pada pemrosesan sensorik, model mereka membutuhkan bagian kunci lain. Tim Naud dan Richards mengusulkan bahwa neuron memiliki kompartemen terpisah di bagian atas dan bawahnya yang memproses kode saraf dengan cara yang sama sekali berbeda.

“[Our model] menunjukkan bahwa Anda benar-benar dapat memiliki dua sinyal, satu naik dan satu turun, dan mereka dapat melewati satu sama lain, ”kata Naud.

Untuk memungkinkan hal ini, model mereka berpendapat bahwa cabang seperti pohon yang menerima input di bagian atas neuron hanya mendengarkan semburan—sinyal pengajaran internal—untuk menyetel koneksi mereka dan mengurangi kesalahan. Tuning terjadi dari atas ke bawah, seperti pada backpropagation, karena dalam modelnya, neuron di atas mengatur kemungkinan neuron di bawahnya akan mengirim ledakan. Para peneliti menunjukkan bahwa ketika jaringan memiliki lebih banyak semburan, neuron cenderung meningkatkan kekuatan koneksi mereka, sedangkan kekuatan koneksi cenderung menurun ketika sinyal semburan lebih jarang. Idenya adalah bahwa sinyal burst memberi tahu neuron bahwa mereka harus aktif selama tugas, memperkuat koneksi mereka, jika hal itu mengurangi kesalahan. Tidak adanya semburan memberi tahu neuron bahwa mereka seharusnya tidak aktif dan mungkin perlu melemahkan koneksi mereka.

Pada saat yang sama, cabang-cabang di bagian bawah neuron memperlakukan semburan seolah-olah mereka adalah paku tunggal—sinyal dunia eksternal yang normal—yang memungkinkan mereka untuk terus mengirimkan informasi sensorik ke atas di sirkuit tanpa gangguan.

“Dalam retrospeksi, ide yang disajikan tampak logis, dan saya pikir ini berbicara untuk keindahannya,” kata João Sacramento, ahli saraf komputasi di Universitas Zurich dan ETH Zurich. “Saya pikir itu brilian.”

Yang lain telah mencoba mengikuti logika yang sama di masa lalu. Dua puluh tahun yang lalu, Konrad Kording dari University of Pennsylvania dan Peter König dari Osnabrück University di Jerman mengusulkan kerangka kerja pembelajaran dengan neuron dua kompartemen. Tetapi proposal mereka tidak memiliki banyak detail spesifik dalam model yang lebih baru yang relevan secara biologis, dan itu hanya sebuah proposal—mereka tidak dapat membuktikan bahwa itu benar-benar dapat memecahkan masalah penugasan kredit.

“Saat itu, kami tidak memiliki kemampuan untuk menguji ide-ide ini,” kata Kording. Dia menganggap makalah baru itu “pekerjaan luar biasa” dan akan menindaklanjutinya di labnya sendiri.

Dengan kekuatan komputasi hari ini, Naud, Richards, dan kolaborator mereka berhasil mensimulasikan model mereka, dengan neuron yang meledak memainkan peran aturan pembelajaran. Mereka menunjukkan bahwa itu memecahkan masalah penugasan kredit dalam tugas klasik yang dikenal sebagai XOR, yang membutuhkan pembelajaran untuk merespons ketika salah satu dari dua input (tetapi tidak keduanya) adalah 1. Mereka juga menunjukkan bahwa jaringan saraf dalam yang dibangun dengan aturan bursting mereka dapat mendekati kinerja algoritma backpropagation pada tugas klasifikasi gambar yang menantang. Tapi masih ada ruang untuk perbaikan, karena algoritma backpropagation masih lebih akurat, dan tidak sepenuhnya cocok dengan kemampuan manusia.

“Pasti ada detail yang tidak kami miliki, dan kami harus membuat modelnya lebih baik,” kata Naud. “Tujuan utama makalah ini adalah untuk mengatakan bahwa jenis pembelajaran yang dilakukan mesin dapat didekati dengan proses fisiologis.”

Posted By : totobet