Почему AI WASH считается грязным делом?

Независимо от того, впечатляет ли это в каждом конкретном случае или нет, искусственный интеллект (ИИ), похоже, присутствует повсюду. Однако некоторые из тех технологий, которые рекламируются как ИИ, на самом деле таковыми не являются - это просто продукт, на который наклеили ярлык, чтобы повысить интерес и привлечь внимание.

Такая практика громких заявлений об искусственном интеллекте называется "AI-стиранием". Хотя она может показаться безобидной, "AI-стирание" может снизить целостность решений ИИ, затруднить понимание того, что действительно работает, и усложнить оценку успеха этой развивающейся технологии.

У меня была возможность поговорить с Линдой Яо (Linda Yao) из Lenovo, операционным директором и руководителем отдела стратегий подразделения решений и услуг и вице-президентом подразделения решений и услуг Al, о концепции, о том, что она означает для бизнеса, чего следует остерегаться и что вы можете сделать, чтобы ваши усилия в области ИИ были прозрачными и заслуживающими доверия.

AU: Пожалуйста, представьтесь и расскажите о своей роли в Lenovo.

Линда Яо: В рамках самого быстрорастущего бизнеса Lenovo я отвечаю за развитие практики AI Services, чтобы мы продолжали внедрять инновации вместе с нашими клиентами для решения их самых интересных задач.

Наш центр передового опыта в области ИИ обладает ключевыми компетенциями в сфере безопасности, персонала, технологий и процессов, которые помогают клиентам реализовывать правильные стратегии и решения в области ИИ для своих задач. Наша миссия - помочь организациям успешно перейти от концепций ИИ к реальным результатам путем быстрого, ответственного и безопасного масштабирования ИИ.

Кроме того, я возглавляю стратегию и операционную деятельность подразделения, что предоставляет широкие возможности для того, чтобы внедрять искусственный интеллект, который преобразует наши операционные процессы и работу с клиентами.

AU: Как вы понимаете, что такое искусственный интеллект, и почему он вызывает все большее беспокойство в технологической отрасли?

LY: Перспективы искусственного интеллекта давно захватили наше воображение, особенно сейчас, когда генеративный ИИ стал легко доступен как на организационном, так и на персональном уровне. Поскольку его потенциал кажется безграничным, возникает желание ассоциировать эту новообретенную технологию как лекарство от всего.

Данные Lenovo показывают, что практически все компании увеличивают инвестиции в ИИ, но при этом три из пяти компаний не уверены в окупаемости этих инвестиций (ROI). Пока неясно, приносят ли эти внедрения ИИ значимые бизнес-результаты их организациям.

Поскольку влияние ИИ еще не до конца определено, а сама технология не всем понятна, мы оставляем место для интерпретаций и приукрашивания. Таким образом, термин "AI wash" проводит параллель с greenwashing, когда компании могут делать спекулятивные заявления об экологических преимуществах своей продукции.

Хотя я не считаю, что это делается с умыслом, промывание ИИ может привести к скептицизму и недоверию среди потребителей и заинтересованных сторон, снижая оценку и доверие к настоящим достижениям в области ИИ, выходящим на рынок.

AU: Каковы долгосрочные последствия использования искусственного интеллекта для бизнеса и потребителей?

Л.Ю.: Для предприятий существует реальный страх упустить что-то новое (FOMO). Риск "AI-стирания" заключается в том, что это может отвлечь внимание и ресурсы руководства от практических инноваций в области ИИ. Вместо того чтобы вкладывать средства в развитие значимых возможностей ИИ, поставщики могут пойти на ошибочные инвестиции или поверхностные усовершенствования, которые замедлят реальный прогресс, которого они могли бы добиться с помощью этой технологии.

Предприятиям, получающим помощь, "промывка" ИИ усложняет процесс принятия решений. Этим компаниям бывает сложно выделить среди шума действительно ценные решения в области ИИ, что может привести к напрасным инвестициям в неэффективные технологии. Это может помешать усилиям по цифровой трансформации, затормозить инновации и поставить под угрозу эффективность бизнеса.

И поставщики, и бизнес-пользователи могут выиграть от сотрудничества с надежными партнерами по ИИ, которые предпринимают активные шаги по ответственному использованию ИИ, а также придерживаются этического подхода при консультировании по вопросам правильного выбора ИИ.

Последствия использования ИИ для потребителей будут гораздо серьезнее: риски для безопасности данных и конфиденциальности из-за плохо продуманной технологии ИИ, а также некачественный пользовательский опыт или разочарование от технологии, которая не соответствует ожиданиям качества. Потребители будут искать бренды, которым они доверяют, технологии и форм-факторы, которые хорошо служили им в прошлом, возможности для обучения и тренировок, чтобы сделать ИИ более доступным, и прозрачность от своих поставщиков в отношении использования ИИ.

AU: Как компании могут обеспечить точность и этичность своих заявлений об искусственном интеллекте?

Л.Ю.: Прежде всего, необходимо признать, что внедрение эффективных решений на основе генеративного ИИ в организации - дело непростое, а масштабирование может быть и вовсе затруднительным. По сравнению со степенью зрелости людей, процессов и политики безопасности организации в области ИИ, внедрение технологий может быть даже наименее сложной частью.

По данным глобального исследования ИТ-директоров, проведенного компанией Lenovo, 76 % ИТ-директоров заявили, что в их организациях нет корпоративной политики по оперативному или этическому использованию ИИ. Быстрых решений не существует, поэтому важным шагом будет признание того, что это постепенный процесс и важное раскрытие информации для клиентов. Поставщики услуг ИИ должны быть прозрачными в отношении того, какие инструменты, данные и методы используются, а компаниям следует рассмотреть возможность разработки собственной политики в области ИИ с учетом особенностей использования.

Собственные процессы Lenovo направлены на обеспечение безопасной, этичной и ответственной разработки и использования ИИ, и эти лучшие практики лежат в основе нашей работы с клиентами на пути внедрения ИИ.

AU: Как "AI-стирание" подрывает истинный трансформационный потенциал технологии ИИ?

LY: Стирание ИИ может привести к смешению приукрашенного с реальностью. Это увеличивает риск усталости от ИИ, что в совокупности усугубит "разочарование" и будет препятствовать прогрессу и инвестициям в реальные инновации ИИ.

Именно поэтому я считаю, что важно применять практический и прагматичный подход к внедрению ИИ. Мы усугубляем недоверие к ИИ и его негативные последствия, когда к ИИ относятся как к абстрактной концепции без ощутимых результатов.

В Lenovo мы стремимся к достижению значимых результатов в бизнесе, используя проверенный практический опыт, и напрямую связываем внедрение таких технологий, как искусственный интеллект, с этими результатами.

AU: Какие стратегии могут использовать предприятия, чтобы рассказать об искусственном интеллекте так, чтобы это соответствовало их реальным возможностям и достижениям?

LY: Предприятиям следует сосредоточиться на сообщениях, основанных на фактах, прозрачности, обучении и реальных примерах использования, чтобы достоверно рассказать о своих возможностях ИИ. Выкладывайте конкретные показатели, тематические исследования и реальные примеры, демонстрирующие влияние ИИ на ваш бизнес и ваших сотрудников. Будьте прозрачны в отношении процесса разработки, источников данных и принятия решений.

Мы в Lenovo считаем, что практический опыт имеет решающее значение, и мы масштабировали десятки реальных примеров использования с ощутимыми бизнес-результатами, чтобы показать это. Когда вы получаете миллионы долларов прибыли, нет необходимости в использовании искусственного интеллекта - проверенные методы и измеримый эффект говорят сами за себя.

AU: Какую роль играет прозрачность в укреплении доверия к инициативам в области ИИ в компаниях?

LY: Прозрачность - краеугольный камень доверия к инициативам в области ИИ. Она демистифицирует технологию, приводит ожидания в соответствие с реальностью и привлекает людей в качестве сторонников, а не скептиков. Такая открытость не только успокаивает заинтересованные стороны, но и способствует осознанному сотрудничеству, стимулируя инновации и уверенность в реальных возможностях ИИ.

AU: Можете ли вы рассказать о конкретных мерах, принятых компанией Lenovo, чтобы избежать использования искусственного интеллекта в своих коммуникациях и практиках?

LY: В Lenovo мы демонстрируем свою прозрачность на практике, позволяя заинтересованным сторонам увидеть реальное воздействие ИИ из первых рук - будь то в контакт-центре, на производстве или в отделе продаж. Мы укрепляем доверие к нашим решениям и методам ИИ, используя непосредственный опыт пользователей.

Lenovo внедряет искусственный интеллект в нашей собственной ИТ-среде уже более десяти лет, а наша культура насчитывает еще несколько десятилетий, так что для нас это не новость!

AU: Как Lenovo решает этические вопросы, связанные с разработкой и внедрением решений на основе искусственного интеллекта?

В прошлом году Lenovo создала Комитет по ответственному искусственному интеллекту, в состав которого вошли сотрудники, представляющие разные слои общества - по полу, этнической принадлежности и инвалидности. Вместе они рассматривают внутренние продукты и внешние партнерства, используя основные принципы разнообразия и инклюзивности, конфиденциальности и безопасности, подотчетности и надежности, объяснимости, прозрачности, а также экологического и социального воздействия.

Мы применяем настоящую строгость к нашим собственным решениям, а также к работе наших партнеров, где приоритетом является многообразие, равенство и инклюзивность (DEI). Мы используем специальные инструменты для оценки предвзятости данных и выявления подгрупп, которые могут быть недопредставлены или как-то сегментированы. Один из таких инструментов - AI Fairness 360, программное обеспечение с открытым исходным кодом, которое оценивает алгоритмы искусственного интеллекта и обучающие данные на предмет смягчения предвзятости.

AU: Каковы некоторые распространенные заблуждения об ИИ, которые способствуют "замыливанию" ИИ, и как их можно преодолеть?

LY: Давайте поговорим о трех мифах:

Миф 1: ИИ способен решить любую проблему и сразу же обеспечить огромный возврат инвестиций.

Реальность: ИИ отлично справляется с конкретными задачами, но ни один алгоритм не является универсальным решением. Его преимущества, как правило, накапливаются со временем при тщательной итерации. Мы решаем эту проблему с помощью нашей стратегии, ориентированной на людей и направленной на информирование заинтересованных сторон о сильных и слабых сторонах ИИ, рассказывая о нашем собственном практическом опыте внедрения ИИ и реальных случаях использования, которые продолжают приносить прибыль со временем по мере накопления опыта.

Миф 2: ИИ работает автономно, без контроля со стороны человека.

Реальность: Большинство решений на основе ИИ, особенно генеративного ИИ, требуют определенного уровня управления для эффективного внедрения и этичного использования. И здесь на помощь приходит наша стратегия, ориентированная на людей, - мы ставим людей в центр внимания как экспертов, которые направляют использование ИИ и интерпретируют его результаты.

Миф 3: Больше данных означает лучший ИИ.

Реальность: Качество и актуальность ваших данных важнее, чем их объем. Наша практика услуг в области ИИ помогает клиентам оценить готовность данных к ИИ и убедиться, что их массивы данных способны достичь желаемых бизнес-результатов. Если нет, то наши услуги по работе с данными помогут им в этом.

AU: Каковы потенциальные риски отсутствия решения проблемы "вымывания" ИИ в технологической отрасли? Как отраслевые стандарты и правила могут помочь снизить риски, связанные с "вымыванием" ИИ?

LY: Отраслевые стандарты играют важную роль в смягчении последствий использования ИИ. В начале этого года компания Lenovo подписала Рекомендацию ЮНЕСКО по этике искусственного интеллекта, которая обязывает "предотвращать, смягчать или устранять" негативные последствия ИИ, в дополнение к конкретным мерам по устранению проблем в ИИ-решениях, которые уже были выпущены на рынок.

В мае этого года мы присоединились к Добровольному кодексу поведения правительства Канады по ответственной разработке и управлению передовыми генеративными системами искусственного интеллекта. Это важные обязательства, которые обязывают отрасль отвечать не только за безопасное и этичное использование ИИ, но и за его объяснимость и прозрачность.

AU: Какие будущие тенденции вы прогнозируете в области этики и управления ИИ?

LY: Этика и управление ИИ будут продолжать развиваться и ужесточаться, и компаниям, находящимся на переднем крае внедрения ИИ, необходимо будет предпринять решительные действия, чтобы направить остальную отрасль на путь этичного и ответственного использования ИИ. В частности, давайте рассмотрим три области.

1. Более строгое регулирование и подотчетность: Компании должны будут соблюдать все более строгие правила, касающиеся конфиденциальности данных, предвзятости и этичного использования. Они будут устанавливать более четкую подотчетность - через главных специалистов по ИИ, главных специалистов по ответственности или иным образом - и будут разрабатывать корпоративные политики, обеспечивающие ответственное отношение к ИИ. Скорее всего, они будут обращаться к доверенным консультантам по ИИ, которые помогут определить, оценить и реализовать эти политики.

2. Этические принципы и прозрачность: Индустрия перейдет к стандартизированным этическим принципам. Организации будут требовать прозрачности, предоставляя четкую документацию по процессам обучения, тестирования и проверки моделей ИИ. Все шире будут применяться независимые аудиты и сертификации.

3. Справедливый и этичный ИИ по замыслу: Компании будут уделять особое внимание смягчению предвзятости, внедрению методов обеспечения справедливости и регулярному аудиту при разработке ИИ. Этические аспекты будут интегрированы с самого начала, что обеспечит решение проблем на протяжении всего жизненного цикла ИИ. Первые последователи, такие как Lenovo, будут стимулировать эти усилия, направляя компании на внедрение лучших практик и способствуя формированию надежного, этичного ландшафта ИИ.