Как в AI выйти за рамки нейронных сетей? Это вообще возможно?

Новое амбициозное начинание под названием Thousand Brains Project нацелено на разработку новой системы искусственного интеллекта, которая, по словам ее основателя, будет работать по тем же принципам, что и человеческий мозг, но при этом будет кардинально отличаться от принципов, лежащих в основе глубоких нейронных сетей, которые сегодня доминируют в искусственном интеллекте. При финансовой поддержке Фонда Гейтса инициатива с открытым исходным кодом предполагает сотрудничество с компаниями-производителями электроники, государственными учреждениями и университетскими исследователями для изучения потенциальных возможностей применения своей новой платформы.

В современных искусственных нейронных сетях компоненты, называемые нейронами, получают данные и взаимодействуют для решения задачи, например, распознавания изображений или предсказания следующего слова в последовательности. Нейронные сети называются "глубокими", если они имеют несколько слоев нейронов.

Глубокие нейронные сети в настоящее время соответствуют или превосходят человеческие показатели во многих тестах, таких как определение рака кожи и сложные игры, однако они сталкиваются с целым рядом проблем. Например, по мере роста размера и мощности они становятся все более энергозатратными - для обучения GPT-3 компании OpenAI в 2022 году, согласно исследованию Nature, компания потратила 4,6 миллиона долларов США на работу 9 200 графических процессоров в течение двух недель. Нейронные сети также часто оказываются нестабильными: незначительные изменения в получаемых ими данных приводят к диким изменениям в результатах. Например, предыдущее исследование показало, что изменение одного пикселя на изображении может заставить ИИ принять лошадь за лягушку.

Чтобы преодолеть эти трудности, проект Thousand Brains Project ставит перед собой задачу разработать новую платформу ИИ путем реинжиниринга неокортекса, на который приходится около 80 процентов массы человеческого мозга.

"Сегодняшние нейронные сети основаны на фундаментальной нейронауке 80-летней давности. С тех пор мы многое узнали о нейронауке и хотим использовать эти знания для развития искусственного интеллекта", - говорит Джефф Хокинс, один из изобретателей Palm Pilot в 1990-х годах. Хокинс - соучредитель компании Numenta, занимающейся разработкой искусственного интеллекта в Редвуд-Сити (Калифорния), которая запустила проект Thousand Brains Project 5 июня на конференции Стэнфордского университета по искусственному интеллекту, ориентированному на человека.

Цели проекта "Thousand Brains"

Название проекта навеяно структурой неокортекса: он состоит из тысяч так называемых кортикальных колонок, каждая из которых разделена на несколько слоев нейронов. "В человеческом мозге около 150 000 кортикальных колонок, и каждая из них, по сути, является собственной обучающей машиной", - рассказывает Хокинс в интервью IEEE Spectrum.

Глубокие сети, по сути, генерируют единую модель мира, обрабатывая данные шаг за шагом от простых характеристик до сложных объектов, утверждают исследователи Numenta. В отличие от этого, разработанная компанией "теория интеллекта тысячи мозгов" предполагает, что многочисленные колонки коры головного мозга генерируют множество карт мира, как если бы каждый человеческий мозг был на самом деле тысячей мозгов, работающих параллельно одновременно.

"Как только мы научимся строить одну кортикальную колонну, мы сможем строить их сколько угодно", - говорит Хокинс.

Цель проекта - имитировать эту нейробиологическую структуру в ИИ с помощью множества кортикальных колонок, каждая из которых может выполнять сенсомоторную задачу, например, управлять пальцем робота. Затем эти единицы могут общаться друг с другом с помощью связей, которые во многом напоминают дальние связи, наблюдаемые в неокортексе. Хокинс считает, что модульная структура сделает его подход легко масштабируемым.

"Человеческий мозг очень быстро вырос в процессе эволюции за счет многократного воспроизведения коры головного мозга, и мы надеемся, что сможем сделать то же самое", - говорит Хокинс.

Роль сенсомоторного обучения

Проект также основан на роли неокортекса в сенсомоторном обучении. В то время как глубокие нейронные сети в настоящее время обучаются на основе гигантских статичных баз данных, неокортекс обучается в динамике: Он воспринимает окружающее пространство с помощью органов чувств, изучает, как работают предметы, используя движения тела, и строит модели мира на основе сенсорной и моторной обратной связи.

Хокинс утверждает, что разница между стратегиями ИИ очень велика. Создание и маркировка наборов данных, на которых обучаются глубокие сети, - дорогостоящее и трудоемкое занятие, и эти системы не могут постоянно обучаться на новых данных; вместо этого им приходится переучиваться на всей базе данных. В отличие от них, неокортекс способен обучаться в активном режиме и быстро адаптироваться к новым данным.

"Мы можем создать машины, которые будут работать подобно неокортексу в плане сенсомоторного обучения, и при этом они будут по своей сути роботами", - говорит Хокинс. "Я думаю, что наша работа - это будущее не только ИИ, но и робототехники".

Кроме того, в рамках проекта разрабатывается ИИ, основанный на использовании неокортексом системы координат. В мозге млекопитающих так называемые клетки места помогают кодировать воспоминания о местоположении, а клетки сетки помогают отображать местоположение в пространстве. Неокортекс использует эти системы отсчета для хранения и понимания постоянного потока сенсомоторных данных, которые он получает.

"То, как мозг структурирует данные в двух- и трехмерных системах отсчета, копирует структуру объектов в реальном мире", - говорит Хокинс. "Когда вы смотрите на глубокие сети, они не понимают сути мира, поэтому, если вы просто измените одну крошечную особенность изображения, они часто не распознают его. В отличие от этого, системы отсчета могут помочь мозгу понять, как его модели объектов могут меняться в различных условиях".

По словам Хокинса, потенциальными приложениями для этой новой платформы ИИ могут стать сложные системы компьютерного зрения, которые могут использовать несколько камер, чтобы понять, что происходит в сцене, или продвинутые сенсорные системы, помогающие роботам манипулировать объектами. "Фонд Гейтса заинтересован в сенсомоторном обучении для глобального здравоохранения. Подумайте об ультразвуке, который перемещает датчик в пространстве для построения модели, например, для визуализации плода. По сути, это сенсомоторная задача".

Проект Thousand Brains с открытым исходным кодом разрабатывает комплект для разработки программного обеспечения, чтобы другие могли использовать его наработки. Инициатива также обязуется не отстаивать свои патенты, связанные с подходом Thousand Brains.

Финансирование от Фонда Гейтса

Фонд Гейтса предоставит проекту "Thousand Brains" как минимум 2,69 миллиона долларов на два года. (Фонд Гейтса отказался от комментариев для этой статьи). "Мы также надеемся вскоре объявить о заключении соглашений с правительственными учреждениями по всему миру", - говорит Хокинс.

Цель проекта - создать полную программную версию коры головного мозга, а затем соединить несколько блоков для сложного процесса, такого как зрение или слух. "Затем мы хотим объединить модальности - скажем, объединить зрение и осязание - и, наконец, построить иерархии, с моделью мира, состоящей из объектов, которые состоят из объектов, и так далее", - говорит Хокинс.

Хотя проект Thousand Brains Project сосредоточен на создании программного обеспечения, он сотрудничает с такими исследователями, как Джон Шен, профессор электротехники и вычислительной техники в Университете Карнеги-Меллон в Питтсбурге, который разрабатывает аппаратное обеспечение на основе концепции Thousand Brains.

"С тех пор как было создано первое нейроморфное оборудование, имитирующее мозг, исследования в области нейронаук достигли значительного прогресса в понимании того, как работает мозг и как он устроен", - говорит Шен. "Мы хотим взять лучшее из того, что мы знаем о нейронауках, и объединить это с лучшими достижениями кремния, чтобы создать новый вид компьютера. Мы действительно приняли теорию тысячи мозгов, и этим летом мы разговариваем с компаниями, производящими чипы, чтобы узнать, есть ли у них интерес к партнерству с нами".