OpenAI обновил модели создания текста на фоне растущей конкуренции в сфере генеративного искусственного интеллекта , сообщает payspacemagazine.com .
Компания объявила о выпуске новых версий GPT-3.5-turbo и GPT-4, последняя из которых представляет собой новейшую конфигурацию искусственного интеллекта, генерирующего текст с функцией, называемой вызовом функции.
Пост, опубликованный в блоге OpenAI, содержит информацию о том, что новая функция позволяет разработчикам описывать функции программирования для GPT-3.5-turbo и GPT-4 и заставлять модели создавать код для выполнения этих функций. Например, он может создавать чат-ботов, которые отвечают на вопросы с помощью внешних инструментов, преобразовывать естественный язык в запросы к базе данных и извлекать из текста структурированные информационные материалы.
Новые решения OpenAI настроены таким образом, чтобы определять, в какой момент возникает необходимость вызова функции. Также модели готовы отвечать в формате JSON, что соответствует сигнатуре функции.
В новой версии GPT-3.5-turbo появилось расширенное контекстное окно. Это окно, измеренное в токенах или фрагментах необработанного текста, рассматривается моделью перед созданием какого-либо дополнительного текстового материала.
Модели с небольшими контекстными окнами часто не сохраняют данные даже о недавних разговорах, из-за чего происходит отклонение от темы.
GPT-3.5-turbo предлагает в четыре раза большую длину контекста (16 000 токенов), чем обычный GPT-3.5-turbo, и в два раза дороже — 0,003 доллара США за 1000 входных токенов (введенных в модель) и 0,004 доллара США за 1000 выходных токенов (сгенерированных). по модели). OpenAI утверждает, что эта модель может обрабатывать около 20 страниц текста за раз.
Компания снижает цены на оригинальную версию GPT-3.5-turbo без расширенного контекстного окна на 25%. Разработчики смогут использовать эту модель за 0,0015 доллара США за 1000 токенов ввода и 0,002 доллара США за 1000 токенов вывода, что составляет примерно 700 страниц за доллар.
Также снижается стоимость использования text-embedding-ada-002, одной из самых популярных моделей встраивания текста OpenAI. Текстовые вложения измеряют взаимосвязь строк и обычно используются для поиска и рекомендаций.
Встраивание text-ada-002 теперь стоит 0,0001 доллара США за 1000 токенов, что на 75% ниже предыдущей цены. В OpenAI утверждают, что пересмотр ценового диапазона в сторону понижения стал возможен в результате повышения эффективности систем компании. Стартап тратит сотни миллионов долларов на инфраструктуру, исследования и разработки.
После выпуска GPT-4 компания заявила о намерении постепенно обновлять существующие модели, а не создавать новые. Сэм Альтман сообщил на прошлой неделе, что OpenAI еще не приступила к обучению преемника GPT-4, и отметил, что перед запуском этой модели необходимо проделать большую работу.
Источник payspacemagazine.com