Как LLM-компьютеры обучаются на платформе Huawei?

В своей программной речи Лю отметил, что ограничения США на технологии, способствующие развитию LLM - основы таких продуктов ИИ, как ChatGPT от OpenAI, - подчеркивают необходимость для Китая развивать собственную вычислительную инфраструктуру для обучения ИИ. Санкции США ограничили экспорт в Китай некоторых технологий, в первую очередь передовых графических процессоров Nvidia, которые способствовали буму ИИ в последние годы.

Лю рассказал аудитории, что модели Xinghuo компании обучаются на вычислительной платформе Feixing Yihao, которая основана на вычислительных решениях Ascend компании Huawei.

Чипы Ascend AI от Huawei быстро завоевывают популярность в Китае. Производительность чипа Ascend 910B, как показали некоторые тесты, составляет от 80 до 120 процентов по сравнению с A100 от Nvidia при обучении LLM, сказал Ван Тао, главный операционный директор Jiangsu Kunpeng Ecosystem Innovation Centre, в кулуарах Nanjing World Semiconductor Conference в этом месяце.

Аналитики отмечают, что решение Ascend - это лучший шанс Китая в развитии собственной инфраструктуры ИИ. По словам Ли Янвэя, технического консультанта из Пекина, работающего в области интеллектуальных вычислений, поддержка со стороны государственных компаний растет, поскольку они размещают заказы на проекты с использованием Ascend.

По словам Ли, аппаратное обеспечение Huawei все еще не имеет такого активного сообщества разработчиков, как платформа Cuda от Nvidia - программное обеспечение, поддерживающее вычислительные процессы ИИ на графических процессорах компании.

"Шансы Huawei догнать Nvidia минимальны, если она не решит эту проблему", - говорит Ли.

На презентации Xinghuo 4 представитель iFlyTek Лю похвастался, что возможности новой модели могут сравниться с GPT-4 Turbo, одной из самых продвинутых моделей от OpenAI, которая была выпущена более восьми месяцев назад.

Xinghuo 4 уже нашел практическое применение в различных бизнес-сценариях, в том числе в здравоохранении, где он помогает врачам и пациентам в диагностике и лечении, говорится в презентации на мероприятии.