Система, вдохновленная мозгом, может сделать искусственный интеллект в 1000 эффективнее.

Система, которая использует мемристоры для создания искусственных нейронных сетей, по крайней мере в 1000 раз более энергоэффективна, чем обычное оборудование искусственного интеллекта на основе транзисторов, но до сих пор была более подвержена ошибкам.

Энергоемкость

Существующий ИИ чрезвычайно энергоемок — обучение одной модели ИИ может генерировать 284 тонны углекислого газа, что эквивалентно выбросам пяти автомобилей за весь срок службы. Замена транзисторов, из которых состоят все цифровые устройства, мемристорами, новым электронным устройством, впервые созданным в 2008 году, может уменьшить это количество углекислого газа до доли тонны, что эквивалентно выбросам, возникающим при дневной поездке.

Поскольку мемристоры намного более энергоэффективны, чем существующие вычислительные системы, они потенциально могут вместить огромные объемы вычислительной мощности в портативные устройства, устраняя необходимость подключения к Интернету.

Это особенно важно, поскольку ожидается, что чрезмерное использование Интернета станет проблематичным в будущем из-за постоянно растущего спроса на данные и трудностей увеличения пропускной способности передачи данных после определенного момента.

В новом исследовании, опубликованном в Nature Communications, инженеры из UCL обнаружили, что точность можно значительно повысить, если заставить мемристоры работать вместе в нескольких подгруппах нейронных сетей и усреднить их вычисления, что означает, что недостатки в каждой из сетей могут быть устранены.

Уникальная память

Мемристоры, описываемые как «резисторы с памятью», поскольку они помнят количество электрического заряда, протекавшего через них даже после выключения, считались революционными, когда они были впервые построены более десяти лет назад, «недостающим звеном» в электронике. С тех пор они коммерчески производятся в устройствах памяти, но исследовательская группа говорит, что они могут быть использованы для разработки систем искусственного интеллекта в течение следующих трех лет.

Мемристоры предлагают значительно повышенную эффективность, потому что они работают не только в двоичном коде единиц и нулей, но и на нескольких уровнях от нуля до единицы одновременно, что означает, что в каждый бит можно поместить больше информации.

Более того, мемристоры часто описываются как нейроморфная (вдохновленная мозгом) форма вычислений, потому что, как и в мозге, обработка и память реализованы в одних и тех же адаптивных строительных блоках, в отличие от современных компьютерных систем, которые тратят много энергии на данные.

В ходе исследования доктор Аднан Мехонич, аспирант Довидас Йоксас (оба из UCL Electronic & Electrical Engineering) и коллеги из Великобритании и США протестировали новый подход на нескольких различных типах мемристоров и обнаружили, что он улучшает точность всех из них. 

Это также помогло решить ряд различных проблем, которые могут повлиять на точность мемристоров.

Исследователи обнаружили, что их подход повысил точность нейронных сетей для типичных задач ИИ до уровня, сопоставимого с программными инструментами, работающими на обычном цифровом оборудовании.

Доктор Мехонич, руководитель исследования, сказал: «Мы надеялись, что могут быть более общие подходы, которые улучшат поведение не на уровне устройства, а на уровне системы, и мы полагаем, что нашли один». 

Несколько головок лучше, чем одна

Наш подход показывает, что для мемристоров несколько головок лучше, чем одна. Объединение нейронной сети в несколько меньших сетей, а не в одну большую, в целом привело к большей точности».

Далее Довидас Йоксас пояснил: «Мы позаимствовали популярную технику из информатики и применили ее в контексте мемристоров. И это сработало! Используя предварительное моделирование, мы обнаружили, что даже простое усреднение может значительно повысить точность мемристивных нейронных сетей».

Профессор Тони Кеньон (UCL Electronic & Electrical Engineering), соавтор исследования, добавил: «Мы считаем, что сейчас настало время для мемристоров, над которыми мы работали в течение нескольких лет, чтобы они сыграли ведущую роль в увеличении энергии. — эра устойчивых устройств IoT и периферийных вычислений».