Как стать ответственным разработчиком в эпоху AI?

На саммите InfoQ Dev Summit в Бостоне Джастин Шихи из Akamai выступил с проникновенной вступительной речью о том, как быть ответственным разработчиком в эпоху шумихи вокруг искусственного интеллекта (ИИ). Доклад был адресован специалистам по программному обеспечению, которые, возможно, чувствуют себя подавленными стремительным развитием и завышенными ожиданиями, связанными с ИИ.

В начале своего выступления Шихи напомнил разработчикам, что в эту эпоху их выбор имеет большое значение. Он выделил три сценария, в которых разработчики должны проявлять осторожность: при изучении системы ИИ, ее разумном и безопасном использовании, а также при ее создании с минимальным ущербом.

Из моего выступления я хотел бы извлечь два основных вывода. Первый - это призыв использовать свои способности разработчика для вдумчивой оценки заявлений о системах, которые они видят, чтобы решить на основе доказательств (а не шумихи), как лучше их использовать. Второй призыв - взять на себя ответственность за свое место в этих системах, будучи лично полезным, честным и безвредным для людей через свою работу. - Джастин Шихи

Докладчик подчеркнул, что разработчики обладают властью; они принимают решения, которые могут определять траекторию развития технологий. Однако с огромной властью приходит и огромная ответственность - эту мысль повторил аналитик технологической индустрии Стив О'Грейди более десяти лет назад.

Затем Шихи рассказал о том, что он назвал "эпохой ИИ", подчеркнув, что впечатляющие успехи в области ИИ были омрачены еще более масштабной шумихой вокруг него. Он призвал слушателей не поддаваться на грандиозные заявления о современных языковых моделях, таких как GPT-4o или Gemini 1.5 от Google, без существенных доказательств, подтверждающих их. Он также отметил, что создатели LLM очень быстро указывают на их недостатки в отношении собственной юридической ответственности.

Он также развенчал несколько ошибочных представлений об этих моделях, таких как их способность развивать человекоподобный интеллект или проходить тесты Тьюринга, основанные исключительно на убедительном подражании человеческому тексту. По словам Шихи, это вероятностные повторяющиеся машины, похожие на попугаев, подражающих звукам без какого-либо понимания или смысла, стоящего за этими звуками.

Докладчик предостерег от "отмывания предрассудков" - концепции, популяризированной Маргарет Митчелл, когда люди склонны рассматривать ответы, генерируемые алгоритмами, как объективные факты, не учитывая потенциальную предвзятость, заложенную на этапах обучения. Это может привести компании к юридическим неприятностям, если они неосознанно нарушат правила безопасности или права из-за предвзятых результатов работы своих систем.

Кроме того, Шихи предостерег от "промывки ИИ", когда компании заявляют, что их продукты оснащены передовыми технологиями ИИ, в основном в маркетинговых целях, а не для реального улучшения функциональности. Такая практика может отвлекать ресурсы от другой важной работы и приводить к опасным ошибочным решениям, основанным на чрезмерной уверенности в возможностях ИИ.

В завершение своего выступления докладчик представил схему "согласованного ИИ", которую, по его мнению, можно применить и к самим разработчикам. Три принципа этой концепции - полезность, честность и безвредность. Придерживаясь этих принципов, разработчики могут гарантировать, что они создают технологии, которые действительно приносят пользу обществу и при этом минимизируют потенциальный вред.

Отвечая на вопрос о докладе на выставке Neurips, в котором говорилось о том, что эмерджентные способности у LLM могут оказаться миражом, Шихи отметил:

В ней есть несколько замечательных выводов, таких как "предполагаемые эмерджентные способности исчезают при использовании других метрик или при улучшении статистики" и "эмерджентные способности могут быть творением выбора исследователя", и в этой работе тщательно показано, что эти эмерджентные свойства возникают более постепенно, чем люди могут предположить, в зависимости от того, как они измеряются... Я бы также отметил, что есть еще один класс предполагаемых эмерджентных способностей (часто те, которые более резко указывают на AGI), которые являются чисто воображаемыми - они вообще не существуют - но часто обсуждаются в популярной культуре. Я бы посоветовал людям остерегаться путать эти две категории.

Разработчики, заинтересованные в получении дополнительной информации о серии InfoQ Dev Summit, могут посетить веб-сайт и следить за тем, как InfoQ будет выпускать записи выступлений в ближайшие месяцы.