Почему увольнение Сэма Альтмана - это раскол в определении будущего AI?

Раскол, стоивший Сэму Альтману должности генерального директора в OpenAI, отражает фундаментальные разногласия по поводу безопасности, в целом, между двумя лагерями, разрабатывающими изменяющее мир программное обеспечение и размышляющими о его влиянии на общество.

С одной стороны, те, кто, как Альтман, считают, что быстрая разработка и, особенно, публичное внедрение ИИ необходимы для стресс-тестирования и совершенствования технологии. С другой стороны, те, кто утверждает, что самый безопасный путь вперед - это полная разработка и тестирование ИИ в лабораторных условиях, чтобы убедиться, что он безопасен для потребления человеком.

В пятницу 38-летний Альтман был уволен из компании, создавшей популярного чат-бота ChatGPT. Многие считали его человеческим лицом генеративного ИИ.

Некоторые опасаются, что сверхинтеллектуальное программное обеспечение может стать неуправляемым и привести к катастрофе. Это беспокоит технологов, которые придерживаются общественного движения под названием "эффективный альтруизм" и считают, что достижения ИИ должны приносить пользу человечеству. Среди тех, кто разделяет эти опасения, - Илья Суцкевер из OpenAI, главный ученый и член совета директоров, который одобрил отстранение Альтмана.

Аналогичное разделение возникло между разработчиками самоуправляемых автомобилей, также управляемых искусственным интеллектом, которые утверждают, что их необходимо выпустить на плотные городские улицы, чтобы полностью понять способности и недостатки транспортных средств; в то время как другие призывают к сдержанности, опасаясь, что технология несет в себе неосознанные риски.

Беспокойство по поводу генеративного ИИ улеглось после неожиданного отстранения Альтмана, который также был соучредителем OpenAI. Генеративный ИИ - это термин для обозначения программного обеспечения, которое может выдавать связный контент, такой как эссе, компьютерный код и фотоподобные изображения, в ответ на простые подсказки. Популярность ChatGPT от OpenAI за последний год ускорила дебаты о том, как лучше регулировать и развивать это программное обеспечение.

"Вопрос в том, будет ли это просто очередной продукт, как социальные сети или криптовалюта, или же это технология, которая способна превзойти человека и стать неконтролируемой", - говорит Коннор Лихи, генеральный директор ConjectureAI и сторонник безопасности. "Будет ли будущее принадлежать машинам?"

Суцкевер, как сообщается, посчитал, что Альтман слишком быстро внедряет программное обеспечение OpenAI в руки пользователей, что может поставить под угрозу безопасность.

"У нас нет решения, как управлять или контролировать потенциально сверхразумный ИИ и предотвратить его выход из-под контроля", - написал он и его заместитель в июльском блоге. "Люди не смогут надежно контролировать системы ИИ, которые намного умнее нас".

Сэм Альтман, генеральный директор OpenAI при поддержке Microsoft и создатель ChatGPT, выступает во время выступления в Тель-Авивском университете в Тель-Авиве, Израиль, 5 июня 2023 года.

Особую озабоченность вызывает тот факт, что OpenAI на своем мероприятии для разработчиков в начале этого месяца анонсировала ряд новых коммерческих продуктов, включая версию программного обеспечения ChatGPT-4 и так называемых агентов, которые работают как виртуальные помощники.

Суцкевер не ответил на просьбу о комментарии.

Судьба OpenAI рассматривается многими технологами как критическая для развития ИИ. Обсуждения в выходные о восстановлении Альтмана в должности не увенчались успехом, разрушив надежды аколитов бывшего генерального директора.

Выход ChatGPT в ноябре прошлого года вызвал ажиотажный спрос на инвестиции в ИИ-компании, в том числе 10 миллиардов долларов от Microsoft (MSFT.O), открывается новая вкладка, в OpenAI и еще миллиарды в другие стартапы, в том числе от Alphabet (GOOGL.O), открывается новая вкладка, и Amazon.com (AMZN.O), открывается новая вкладка.

Это может помочь объяснить взрывное появление новых продуктов ИИ, поскольку такие компании, как Anthropic и ScaleAI, стремятся продемонстрировать инвесторам свой прогресс. Тем временем регулирующие органы пытаются идти в ногу с развитием искусственного интеллекта, включая рекомендации администрации Байдена, а некоторые страны настаивают на "обязательном саморегулировании", в то время как Европейский союз работает над введением широкого надзора за программным обеспечением.

Хотя большинство из них используют генеративный ИИ, например ChatGPT, для дополнения своей работы, например для составления быстрых резюме объемных документов, наблюдатели опасаются появления версий, известных как "искусственный общий интеллект", или AGI, которые смогут выполнять все более сложные задачи без каких-либо подсказок. Это вызвало опасения, что программное обеспечение может самостоятельно захватить системы обороны, создать политическую пропаганду или произвести оружие.

OpenAI была основана как некоммерческая организация восемь лет назад, отчасти для того, чтобы ее продукты не были направлены на извлечение прибыли, которая могла бы привести ее по скользкой дорожке к опасным AGI, которые, согласно уставу компании, угрожают "нанести вред человечеству или неоправданно сконцентрировать власть". Но с тех пор Альтман помог создать внутри компании коммерческое предприятие для сбора средств и других целей.

В конце воскресенья OpenAI назначила временным генеральным директором Эммета Шира, бывшего главу стриминговой платформы Twitch. В сентябре в социальных сетях он высказался за "замедление" развития ИИ. "Если сейчас наша скорость равна 10, то пауза - это снижение до 0. Я думаю, нам следует стремиться к 1-2", - написал он.

Точные причины отстранения Альтмана от должности по состоянию на понедельник оставались неясными. Но можно сделать вывод, что OpenAI предстоит решать серьезные задачи.