OpenAI вводит новые функции в свой API для тонкой настройки

Сегодня компания OpenAI представила набор новых инструментов, которые облегчат оптимизацию ее больших языковых моделей для конкретных задач.

Большинство дополнений распространяется на интерфейс прикладного программирования для тонкой настройки, который компания запустила в августе прошлого года. API позволяет клиентам предоставлять языковым моделям OpenAI дополнительные данные, не включенные в их встроенную базу знаний. Например, ритейлер может предоставить GPT-4 информацию о своих товарах, а затем использовать модель для обработки запросов клиентов.

Тонкая настройка LLM с использованием внешних данных - сложный процесс, чреватый техническими ошибками. Если произойдет сбой, LLM не сможет правильно воспринять предоставленную ему информацию, что может ограничить его полезность. Первое новое усовершенствование, которое OpenAI представила сегодня для своего API тонкой настройки, призвано решить эту проблему.

Проект тонкой настройки ИИ обычно делится на этапы, называемые эпохами. На каждом таком этапе модель как минимум один раз анализирует набор данных, на котором она настраивается. Сбои часто возникают не во время первой эпохи проекта по тонкой настройке, а в ходе последующих тренировок.

Используя улучшенный API OpenAI для тонкой настройки, разработчики теперь могут сохранять копию модели ИИ после каждой эпохи в процессе обучения. Если в пятой эпохе возникнет сбой, проект можно перезапустить с четвертой эпохи. Это избавляет от необходимости начинать все с нуля, что, в свою очередь, сокращает количество времени и усилий, необходимых для исправления ошибок тонкой настройки.

Функция распространяется вместе с новым разделом интерфейса, известным как Playground UI. По словам OpenAI, разработчики могут использовать ее для сравнения различных версий точно настроенной модели. Например, команда разработчиков может проверить, как модель отвечает на вопрос после пятой эпохи, а затем ввести тот же вопрос двумя эпохами позже, чтобы определить, улучшилась ли точность ответа.

OpenAI также расширяет существующую панель тонкой настройки ИИ. По словам компании, теперь разработчики могут легче настраивать гиперпараметры моделей. Это параметры конфигурации, которые влияют на точность ответов LLM.

Обновленная приборная панель также предоставляет доступ к более подробным техническим данным о сеансах тонкой настройки. Для большего эффекта OpenAI добавила возможность передавать эти данные в сторонние инструменты для разработки ИИ. Первая интеграция уже запущена для Weights and Biases, платформы для создания моделей, разработанной одноименным стартапом с хорошим финансированием.

Для предприятий, которым требуются более продвинутые функции оптимизации моделей, OpenAI сегодня представила новое предложение под названием assisted fine-tuning. Оно позволяет расширить возможности модели, оснастив ее дополнительными гиперпараметрами. Клиенты также могут оптимизировать свои LLM с помощью техники PEFT, которая позволяет точно настроить только определенные части модели, а не всю ее кодовую базу.