Дослідники імітують людський мозок для створення низької енергетичної мережі

Нейронні мережі - або штучні репліки людського мозку - дозволяють вченим і інженерам проводити аналіз, який візьме людей. Вони можуть виливатися через нескінченні таблиці даних і вказувати на розбіжності в образах, які залишаться непоміченими людьми.

У них є один недолік: найкращі нейронні мережі в грі використовують неймовірну кількість енергії для виконання своєї роботи.

"Кілька років тому IBM намагалася імітувати мозкову активність кішки в суперкомп'ютері, і вони закінчилися споживанням мегаватів потужності", - розповідає дослідник університету Пердью Абхроніль Сенгупта. Обернено. «Біологічний людський мозок не споживає майже нічого. Це не є прямим порівнянням "один-до-одного" з нейронною мережею, але воно повинно дати вам оцінку того, як працюють потужні обчислювальні системи."

Сенгупта та команда комп'ютерних вчених з Університету Пердью та Інституту інженерів з електротехніки та електроніки (IEEE) придумали спосіб отримати нейронні мережі для того, щоб споживати менше енергії, продовжуючи працювати. Папір, який вони опублікували на препринт-сайті arXiv, пояснює, як вони взяли натхнення у людському мозку і реалізували свою ідею, щоб дозволити їхній нейронній мережі споживати приблизно в 11 разів менше енергії, ніж традиційні системи.

Їх підхід використовує пікові нейронні мережі, або SNN. На відміну від аналогів, ці обчислювальні системи набагато більш точно імітують біологічні нейрони.

Стандартні нейронні мережі складаються з тисяч вузлів, що використовуються для прийняття рішень і суджень про дані, що подаються їм. Вихідні дані залежать тільки від того, що в даний час представлено, а вихід SNN залежить також від попередніх стимулів. Вузли в SNN працюватимуть тільки при досягненні певного рівня стимулу. Так замість постійно Передаючи дані в інші вузли, вузли SNN передають тільки інформацію, коли вони повинен.

Це зазвичай відбувається з гігантськими витратами на енергію, оскільки більшість цих систем виготовляються з використанням відомої як доповнювальна технологія металооксид-напівпровідник, або CMOS. Ця технологія складає всі чіпи у вашому ноутбуці і використовується як будівельний блок для нейронних мереж. Для їх вивчення група дослідників кинула технологію CMOS і побудувала SNN, зроблену повністю з мемристорів.

Скорочення для «резисторів пам'яті», електричний опір мемристорів залежить від того, скільки електричного заряду проходило через нього в минулому. Отже, на відміну від технології CMOS, вона здатна “запам'ятати” те, що пройшло через неї раніше, що саме потрібно робити у вузлах SNN.

Результати дослідження показали, що мемристори досить добре імітують біологічний нейрон. Вони спілкуються один з одним за допомогою шипів, або коротких спалахів енергії, на відміну від постійного потоку потужності. Цей мемристор-SNN мав незначне зниження точності, коли він використовувався для класифікації зображень порівняно з його CMOS-аналогами, але це потребувало частки потужності стандартної нейронної мережі.

До цього дослідження SNNs були найбільш близькими до штучного людського мозку, який ми мали, але величезна кількість енергії, яку вони взяли, щоб використати, скасувала деякі з їх переваг. Якщо інші вчені здатні відтворити ці енергозберігаючі нейронні мережі, це може дозволити їм зробити більше з меншою енергією і зближує їх, щоб зрозуміти, як повторювати біологічний мозок.