На этой неделе OpenAI превратила ChatGPT из платформы в инфраструктуру, выпустив интерфейсы прикладного программирования для своей модели диалога и системы распознавания речи Whisper, а также установив агрессивную цену в 0,002 доллара за 1000 токенов для новой модели gpt-3.5-turbo.

Объявление от 1 марта предоставляет разработчикам прямой способ встраивать интерактивные функции, аналогичные ChatGPT, в свои собственные продукты, вместо того чтобы отправлять пользователей на веб-сайт OpenAI. В OpenAI заявили, что то же семейство моделей, что и в ChatGPT, теперь может использоваться в приложениях через структурированный формат чата, а API Whisper обеспечивает транскрипцию и перевод речи в текст по цене 0,006 доллара в минуту.

От вирусного приложения до платформы для разработчиков

Публичный релиз ChatGPT в ноябре вызвал необычайный интерес у потребителей, но API меняет экономическую роль этой технологии. Вместо того чтобы работать только как интерфейс, управляемый OpenAI, модель может стать компонентом образовательного программного обеспечения, коммерческих приложений, социальных сетей, систем обслуживания клиентов и внутренних бизнес-инструментов. В одновременно опубликованном отчете TechCrunch отмечалось, что OpenAI также предлагает выделенные мощности для клиентов, стремящихся к более предсказуемой производительности и контролю над доступностью модели.

Ценообразование примечательно тем, что снижает затраты на эксперименты с генеративным ИИ. OpenAI утверждает, что gpt-3.5-turbo обеспечивает производительность уровня ChatGPT через API, при этом его стоимость в десять раз ниже, чем у предыдущих моделей GPT-3.5. Это создает гораздо больший потенциальный рынок для приложений, которые могут потребовать тысяч или миллионов диалоговых обменов.

API построен на основе серии сообщений с ролями, такими как система, пользователь и ассистент. Такая структура позволяет разработчикам давать модели постоянные инструкции, передавать историю диалогов и формировать поведение сервиса, не создавая каждое взаимодействие в виде одного длинного текстового запроса. Это также упрощает интеграцию модели в традиционные программные архитектуры.

Первые образцы продукции демонстрируют широкий спектр вариантов ее применения

OpenAI назвала Snap, Quizlet, Instacart и Shopify в числе первых пользователей. Snap использует технологию OpenAI для «My AI», функции интерактивного общения внутри Snapchat. В отчете Ars Technica описывалось, что бот изначально был доступен подписчикам Snapchat+, и подчеркивалось предупреждение Snap о том, что генеративные системы могут давать неверные или вводящие в заблуждение ответы.

В опубликованном одновременно сообщении Reuters говорилось, что Snap планирует позиционировать чат-бота как мобильного компаньона, который мог бы предлагать подарки, блюда, идеи для путешествий и другую повседневную информацию. Запуск демонстрирует как возможности, так и риски для потребительских платформ: генеративный ИИ может создать новую поверхность взаимодействия, но компания, внедряющая его, берет на себя ответственность за то, как пользователи интерпретируют его ответы.

Тем временем Quizlet анонсировал ИИ-репетитора под названием Q-Chat. В его релизе говорилось, что система будет использовать API OpenAI для того, чтобы направлять студентов через адаптивные вопросы, а не просто возвращать ответы. Этот пример использования показывает, почему чат-интерфейс имеет техническое значение: программное обеспечение может сохранять контекст между ходами и реагировать на предыдущие ответы студента.

Функция Whisper преобразует речь в еще один программируемый входной сигнал

Второй запуск, Whisper, расширяет возможности платформы OpenAI за пределы генерации текста. Whisper — это модель распознавания речи, обученная на больших объемах многоязычного аудио. Новый API может расшифровывать речь на языке оригинала или переводить поддерживаемую речь на английский. В отдельном отчете TechCrunch сервис описывается как размещенная версия модели Whisper с открытым исходным кодом, что избавляет разработчиков от необходимости самостоятельно управлять вычислительной инфраструктурой.

Это может упростить добавление речевых интерфейсов в инструменты для проведения совещаний, системы колл-центров, рабочие процессы обработки медиаконтента, продукты для людей с ограниченными возможностями и мобильные приложения. Структура ценообразования — 0,006 доллара за минуту — также делает возможной автоматическую транскрипцию для случаев, которые ранее зависели от специализированных поставщиков или локальной обработки.

Вместе эти два API указывают на более широкую архитектуру, в которой приложение может принимать речь, преобразовывать ее в текст, рассуждать или генерировать ответ с помощью разговорной модели и возвращать ответ, не требуя от разработчика обучения модели ИИ с нуля. Ценность все больше смещается от одной только модели к координации моделей, собственных данных и программных рабочих процессов.

Надежность и управляемость становятся вопросами, касающимися самого продукта

Открытие ChatGPT через API не решает известные проблемы модели. В собственных материалах OpenAI по запуску признается, что выходные данные модели могут быть некорректными и разработчикам необходимо учитывать изменение поведения модели. Компания внедряет версионированные снимки модели, чтобы клиенты могли привязывать приложения к конкретной версии модели вместо автоматического получения каждого обновления.

OpenAI также заявляет, что не будет использовать данные, предоставленные через API, для улучшения сервиса, если клиенты не дадут на это согласие. Это изменение политики направлено на организации, обеспокоенные передачей конфиденциальной информации во внешнюю модель. В анонсе , сопровождающем запуск, подчеркиваются оперативная обратная связь, стабильность модели и переход существующих приложений на новый формат чата.

Стратегическое значение этой интеграции выходит за рамки любой отдельной интеграции. ChatGPT продемонстрировал, что разговорный генеративный ИИ может привлечь массовую аудиторию. Теперь API проверяет, может ли та же технология стать универсальным программным слоем. Если разработчики смогут создавать надежные продукты по заявленным ценам, самым важным продуктом OpenAI может оказаться не сам ChatGPT, а программируемая модель, лежащая в основе тысяч других приложений.