На своей первой конференции для разработчиков компания OpenAI представила масштабное расширение своей платформы, в первую очередь GPT-4 Turbo с контекстным окном в 128 000 токенов , более низкими ценами на API, новыми инструментами для разработчиков и системой, позволяющей пользователям создавать собственные версии ChatGPT без написания кода. Анонс на DevDay в понедельник знаменует собой самые амбициозные на сегодняшний день усилия компании по превращению технологии, лежащей в основе ChatGPT, в универсальную программную платформу.
GPT-4 Turbo способен обрабатывать гораздо больший объем информации за один запрос, чем стандартные модели GPT-4, доступные ранее в этом году, а OpenAI утверждает, что модель также лучше справляется с выполнением инструкций и работой со структурированными выходными данными. Компания снизила цену на входные токены GPT-4 Turbo до одной трети от цены GPT-4, а на выходные токены — до половины от прежней цены. Это изменение направлено непосредственно на разработчиков, стремящихся создавать коммерчески жизнеспособные приложения на основе больших языковых моделей.
Более широкое контекстное окно меняет возможности разработчиков
Окно контекста размером 128 КБ примерно эквивалентно сотням страниц текста, что позволяет разработчикам помещать в запрос модели гораздо более крупные документы, кодовые базы или диалоги. Это не гарантирует идеальной полноты поиска по каждому токену, но меняет практические ограничения для анализа документов, рабочих процессов поиска и длительно работающих приложений.
OpenAI также добавляет режим JSON, улучшенный вызов функций, воспроизводимые выходные данные с помощью параметра начального значения и доступ к логарифмическим вероятностям. Эти функции менее заметны, чем новое название модели, но важны для команд разработчиков программного обеспечения, поскольку они упрощают интеграцию поведения модели в обычную логику приложения. Существующий релиз GPT-4, выпущенный в марте, заложил основу для многомодального подхода и логического рассуждения; GPT-4 Turbo призван сделать эту возможность более дешевой и простой в использовании в масштабе.
Компания также представила API для голосовых помощников со встроенными инструментами для получения данных, выполнения кода и вызова функций. Вместо того чтобы требовать от разработчиков самостоятельной сборки каждого компонента разговорного приложения, OpenAI предлагает более прямой уровень оркестровки.
Пользовательские GPT-теги превращают ChatGPT в площадку для размещения приложений
Для потребителей и организаций более заметным анонсом стали GPT: пользовательские версии ChatGPT, настроенные с помощью инструкций, загруженных знаний и выбранных возможностей. В отдельном анонсе продуктаOpenAI сообщила, что пользователи версий Plus и Enterprise могут создавать GPT для конкретных задач и делиться ими с другими. Компания планирует запустить магазин GPT в конце этого месяца, где можно будет найти общедоступные GPT.
Эта идея снижает барьер между использованием ИИ-помощника и созданием небольшого приложения. Учитель может настроить обучающий GPT-сервис в соответствии с учебной программой, компания может создать внутреннего помощника по разработке политики, а специалист может объединить инструкции с собственными справочными материалами. В примечаниях к выпуску ChatGPT описывается запуск 6 ноября как новый способ адаптации ChatGPT для работы, дома и специализированных задач.
Эта стратегия также расширяет корпоративное направление, объявленное OpenAI в августе. ChatGPT Enterprise добавила административные элементы управления, более строгие обязательства по обеспечению конфиденциальности, более длительный контекст и неограниченный высокоскоростной доступ к GPT-4 для организаций. Теперь GPT предлагают еще один уровень настройки, который может оставаться внутри компании или быть доступен публично.
Мультимодальные инструменты интегрируются в единый стек инструментов для разработчиков
DevDay также включает в API GPT-4 Turbo с поддержкой машинного зрения, генерацию изображений DALL·E 3 и преобразование текста в речь. Это позволяет одному приложению объединять анализ текста, понимание изображений, генерацию изображений и речевой вывод, используя общую инфраструктуру поставщика и учетных записей.
Компания OpenAI уже несколько месяцев движется к этой конвергенции. В анонсе DALL·E 3 была описана модель обработки изображений, разработанная для более точного следования подробным языковым инструкциям и для тесного взаимодействия с ChatGPT в качестве интерфейса для уточнения подсказок. Более широкий доступ разработчиков к DALL·E 3 и возможностям компьютерного зрения превращает эти ориентированные на потребителя функции в строительные блоки для сторонних продуктов.
Расширение платформы также сопровождается соглашением о защите авторских прав (Copyright Shield), в рамках которого OpenAI обязуется защищать клиентов и оплачивать расходы, понесенные в связи с определенными исками о нарушении авторских прав, касающимися общедоступных систем OpenAI. Это обязательство распространяется на ChatGPT Enterprise и API, но не на любое использование или модификацию.
Цена становится конкурентным преимуществом
Наиболее непосредственный коммерческий эффект может быть достигнут за счет ценообразования. Крупные приложения, использующие языковые модели, могут стать дорогими, если они обрабатывают большие объемы запросов, обслуживают множество пользователей или многократно вызывают модели в рамках одного рабочего процесса. Снижение цен на токены уменьшает затраты на эксперименты и делает некоторые ранее малоперспективные приложения более реалистичными.
В опубликованном одновременно с этим отчете TechCrunch о DevDay были освещены как обновления модели, так и изменения цен, а также экспериментальная программа тонкой настройки GPT-4. OpenAI также увеличивает лимиты запросов для существующих клиентов API GPT-4, что является еще одним сигналом того, что компания готовится к более масштабному использованию в производственных условиях.
Эти объявления оказывают давление на конкурирующих поставщиков моделей, заставляя их конкурировать не только по результатам бенчмарков, но и по длине контекста, инструментам для разработчиков, надежности, контролю данных и стоимости. В то же время OpenAI берет на себя все большую ответственность за сам прикладной уровень. Предоставляя услуги поиска, выполнения кода, пользовательских помощников и торговую площадку GPT, компания приближается к областям, где многие стартапы уже создают продукты на основе ее моделей.
От поставщика моделей к платформенной компании
Главный посыл DevDay заключается в том, что OpenAI больше не хочет, чтобы его оценивали только по интеллекту его последней модели. Компания собирает компоненты платформы: модели, инструменты, хранилище и поиск данных, многомодальные API, корпоративные средства управления, возможности настройки, канал распространения и снижение себестоимости единицы продукции.
Этот сдвиг может привести к более глубокому внедрению OpenAI в разработку программного обеспечения, но также увеличит требования к его использованию. Разработчики будут оценивать платформу по времени безотказной работы, стабильности версий, предсказуемости ценообразования, конфиденциальности и тому, насколько новые абстракции остаются полезными по мере изменения моделей.
На данный момент 128-килобайтное контекстное окно GPT-4 Turbo и более низкая цена представляют собой существенные технические изменения, а GPT — это ставка на то, что миллионы пользователей смогут стать разработчиками легковесных приложений. Вместе они превращают первый DevDay компании не столько в обновление продукта, сколько в заявление о том, что генеративный ИИ становится самостоятельной платформой для приложений.