OpenAI сильно обновился и снова стал сильнее! API имеет ужасающие возможности вызова функций, может обрабатывать более длинные контексты, а цена упала на 75%!
13 июня официальный сайт OpenAI неожиданно выпустил последнее обновление возможностей ChatGPT. Ключевые моменты заключаются в следующем:
Новая функция: в API завершения чата добавлена новая возможность вызова функции, которая позволяет модели вызывать функции и генерировать соответствующие объекты JSON в качестве выходных данных, когда это необходимо. Это позволяет разработчикам более точно получать структурированные данные из моделей, осуществлять преобразование естественного языка в вызовы API или запросы к базе данных, а также может использоваться для извлечения структурированных данных из текста.
(То есть, после тонкой настройки OpenAI, если вы говорите ему человеческие слова, он может распознать его и преобразовать в функцию для вас, еще больше реализуя возможность программирования без программирования, и его удобнее получить от структурированные данные хаотической структуры)
Обновление модели: обновлены более управляемые версии gpt-4 и gpt-3.5-turbo, а также новая контекстная версия 16k gpt-3.5-turbo, которая может обрабатывать более длинные тексты, чем стандартная версия 4k.
(может поддерживать 20 страниц текста!)
Прекращение поддержки модели: объявлен график устаревания моделей gpt-3.5-turbo-0301 и gpt-4-0314. Пользователи этих моделей могут перейти на более новую модель до определенного времени, после чего старая модель больше не будет доступна.
(С одной стороны, обратите внимание на тех, кто все еще использует эти модели, пожалуйста, не отставайте от сумасшедшего ритма OpenAI. С другой стороны, многие люди, которые сравнивали модели предыдущих версий OpenAI, уже отказались от них..)
Корректировка цен: Цена самой продвинутой модели встраивания снижена на 75%, а цена входного токена gpt-3.5-turbo снижена на 25%.
(Сэм Альтман недавно сказал на параде, что цена будет продолжать падать, и это грядет. И падение цены — это цена самой сильной модели, которая снизит лодыжку. Последняя цена за 1 000 токенов составляет 0,0001 доллара США)
OpenAI также подчеркнул, что все эти модели продолжают поддерживать гарантии конфиденциальности и безопасности данных, введенные 1 марта: клиенты владеют всеми выходными данными, которые они запрашивают для создания, и данные их API не будут использоваться для обучения. С этими обновлениями мы приглашаем еще больше людей из списка ожидания попробовать GPT-4, и мы с нетерпением ждем, какие проекты вы создадите с помощью GPT-4! Мы приветствуем обратную связь с разработчиками, чтобы обеспечить плавный переход обновлений модели.
Ниже приводится полный текст объявления:
Ранее в этом году мы выпустили модели gpt-3.5-turbo и gpt-4, и всего за несколько месяцев мы увидели, как разработчики создают невероятные приложения на основе этих моделей. Сегодня мы публикуем несколько интересных обновлений:
Новая функция вызова функции в Chat Completions API
· Обновлены версии gpt-4 и gpt-3.5-turbo с добавленной управляемостью
· Новая 16-килобайтная контекстная версия gpt-3.5-turbo (по сравнению со стандартной 4-килобайтной версией)
Скидка 75% на нашу современную модель встраивания
25% снижение цены входных токенов gpt-3.5-turbo
Объявлен график устаревания моделей gpt-3.5-turbo-0301 и gpt-4-0314.
Все эти модели поставляются с теми же гарантиями конфиденциальности и безопасности данных, которые мы запустили 1 марта — клиенты владеют всеми выходными данными, созданными по их запросам, а данные их API не используются для обучения. вызов функции
Теперь разработчики могут описывать функции для gpt-4-0613 и gpt-3.5-turbo-0613, а модель разумно выбирает вывод объекта JSON, содержащего аргументы для вызова этих функций. Это новый способ более надежно связать возможности GPT с внешними инструментами и API. Эти модели были точно настроены, чтобы обнаруживать необходимость вызова функции (в зависимости от пользовательского ввода) и отвечать с помощью JSON, который соответствует сигнатуре функции. Вызовы функций позволяют разработчикам более надежно извлекать структурированные данные из моделей. Например, разработчики могут:
Создавайте чат-ботов, которые отвечают на вопросы, вызывая внешние инструменты, такие как плагин ChatGPT;
Превращение вопроса типа «Спросите Аню, не хочет ли она кофе в следующую пятницу» в вызов функции типа send_email(to: string, body: string) или «Какая сейчас погода в Бостоне?» в get_current _weather( местоположение: строка, единица измерения: 'Цельсий' | 'Фаренгейт');
· Преобразование естественного языка в вызовы API или запросы к базе данных;
Преобразуйте «Кто мои первые десять клиентов в этом месяце?» во внутренний вызов API, такой как get_customers_by_revenue(start_date: строка, end_date: строка, limit: int) или «на сколько заказов место Acme, Inc. за месяц?" Используйте sql_query(query: string) для преобразования в SQL-запрос;
Извлечение структурированных данных из текста;
· Определите функцию с именем extract_people_data(people: [{имя: строка, день рождения: строка, местоположение: строка}]) для извлечения всех упоминаний людей из статьи Википедии.
Все эти варианты использования поддерживаются новыми параметрами API в нашей конечной точке /v1/chat/completions, functions и function_call, которые позволяют разработчикам описывать функции для модели с помощью схемы JSON и при необходимости запрашивать у нее определенные функции. Пожалуйста, начните работу с нашей документацией для разработчиков, и если вы обнаружите ситуации, в которых можно было бы улучшить вызовы функций, добавьте оценку.
пример вызова функции
Какая сейчас погода в Бостоне?
шаг 1
API OpenAI
Вызвать модель с помощью функции и пользовательского ввода
шаг 2
Сторонние API
Вызовите свой API с ответом модели
шаг 3
API OpenAI
Отправьте ответ модели для обобщения. Погода в Бостоне сейчас солнечная, температура 22 градуса по Цельсию. С момента выпуска альфа-версии плагина ChatGPT мы многое узнали о том, как обеспечить безопасную совместную работу инструментов и языковых моделей. Тем не менее, есть еще некоторые открытые исследовательские вопросы. Например, пробная уязвимость показывает, как получение недостоверных данных из выходных данных инструмента может привести к тому, что модель будет выполнять неожиданные действия. Мы прилагаем все усилия, чтобы снизить эти и другие риски. Разработчики могут защитить свои приложения, используя информацию только из надежных инструментов и включив шаги подтверждения пользователя перед выполнением действий, имеющих реальное влияние, таких как отправка электронной почты, публикация в Интернете или совершение покупки.
новая модель
ГПТ-4
gpt-4-0613 включает обновленные и улучшенные модели, а также функции вызова функций.
gpt-4-32k-0613 включает те же улучшения, что и gpt-4-0613, а также увеличенную длину контекста для лучшего понимания больших текстов.
С этими обновлениями мы будем приглашать больше людей из списка ожидания, чтобы опробовать GPT-4 в ближайшие недели, с целью полностью удалить список ожидания для этой модели. Спасибо всем, кто проявил терпение, мы с нетерпением ждем возможности увидеть, что вы создадите с помощью GPT-4!
ГПТ-3.5 Турбо
gpt-3.5-turbo-0613 включает в себя те же возможности вызова функций, что и GPT-4, а также более надежный контроль с помощью системных сообщений, что позволяет разработчикам более эффективно управлять откликами модели.
gpt-3.5-turbo-16k обеспечивает в четыре раза большую длину контекста, чем gpt-3.5-turbo, но в два раза дороже: 0,003 долл. США за 1 тыс. входных токенов и 0,004 долл. США за 1 тыс. выходных токенов. Контекст 16 тыс. означает, что модели теперь можно использовать примерно на 20 страницах. текста поддерживаются в одном запросе.
устаревание модели
Сегодня мы начнем процесс обновления и прекращения поддержки начальных версий gpt-4 и gpt-3.5-turbo, о которых мы объявили в марте. Приложения, использующие названия стабильных моделей (gpt-3.5-turbo, gpt-4 и gpt-4-32k), будут автоматически обновлены до новых моделей, перечисленных выше, 27 июня. Чтобы сравнить производительность между версиями модели, наша библиотека поддерживает общедоступные и частные оценки, чтобы продемонстрировать, как изменения модели повлияют на ваш вариант использования.
Разработчики, которым нужно больше времени для перехода, могут продолжать использовать старую модель, указав gpt-3.5-turbo-0301, gpt-4-0314 или gpt-4-32k-0314 в параметре 'model' своих API-запросов. Эти старые модели по-прежнему будут доступны после 13 сентября, после чего запросы с указанием названий этих моделей не будут выполняться. Вы можете быть в курсе устаревших моделей на нашей странице устаревших моделей. Это первое обновление для этих моделей, поэтому мы приветствуем отзывы разработчиков, которые помогут нам обеспечить плавный переход.
Понизить цену
Начиная с сегодняшнего дня, мы продолжаем повышать эффективность наших систем и передавать эту экономию средств разработчикам.
Вложения
text-embedding-ada-002 — наша самая популярная модель встраивания. Сегодня мы снизили его стоимость на 75% до $0,0001 за 1 тыс. токенов.
ГПТ-3.5 Турбо
gpt-3.5-turbo — наша самая популярная модель чата, предоставляющая услуги ChatGPT миллионам пользователей. Сегодня мы снизили стоимость входного токена gpt-3.5-turbo на 25%. Теперь разработчики могут использовать эту модель по цене 0,0015 долл. США за 1 тыс. входных токенов и 0,002 долл. США за 1 тыс. выходных токенов, что соответствует примерно 700 страницам за доллар.
Цена gpt-3.5-turbo-16k составит 0,003 доллара США за 1 тыс. входных токенов и 0,004 доллара США за 1 тыс. выходных токенов.
Отзывы разработчиков являются краеугольным камнем эволюции нашей платформы, и мы продолжим вносить улучшения на основе полученных предложений. Мы с нетерпением ждем возможности увидеть, как разработчики используют эти новейшие модели и новые функции в своих приложениях.
Посмотреть Оригинал
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
OpenAI сильно обновился и снова стал сильнее! API имеет ужасающие возможности вызова функций, может обрабатывать более длинные контексты, а цена упала на 75%!
13 июня официальный сайт OpenAI неожиданно выпустил последнее обновление возможностей ChatGPT. Ключевые моменты заключаются в следующем:
OpenAI также подчеркнул, что все эти модели продолжают поддерживать гарантии конфиденциальности и безопасности данных, введенные 1 марта: клиенты владеют всеми выходными данными, которые они запрашивают для создания, и данные их API не будут использоваться для обучения. С этими обновлениями мы приглашаем еще больше людей из списка ожидания попробовать GPT-4, и мы с нетерпением ждем, какие проекты вы создадите с помощью GPT-4! Мы приветствуем обратную связь с разработчиками, чтобы обеспечить плавный переход обновлений модели.
Ниже приводится полный текст объявления:
Ранее в этом году мы выпустили модели gpt-3.5-turbo и gpt-4, и всего за несколько месяцев мы увидели, как разработчики создают невероятные приложения на основе этих моделей. Сегодня мы публикуем несколько интересных обновлений:
Новая функция вызова функции в Chat Completions API
· Обновлены версии gpt-4 и gpt-3.5-turbo с добавленной управляемостью
· Новая 16-килобайтная контекстная версия gpt-3.5-turbo (по сравнению со стандартной 4-килобайтной версией)
Скидка 75% на нашу современную модель встраивания
25% снижение цены входных токенов gpt-3.5-turbo
Объявлен график устаревания моделей gpt-3.5-turbo-0301 и gpt-4-0314.
Все эти модели поставляются с теми же гарантиями конфиденциальности и безопасности данных, которые мы запустили 1 марта — клиенты владеют всеми выходными данными, созданными по их запросам, а данные их API не используются для обучения. вызов функции
Теперь разработчики могут описывать функции для gpt-4-0613 и gpt-3.5-turbo-0613, а модель разумно выбирает вывод объекта JSON, содержащего аргументы для вызова этих функций. Это новый способ более надежно связать возможности GPT с внешними инструментами и API. Эти модели были точно настроены, чтобы обнаруживать необходимость вызова функции (в зависимости от пользовательского ввода) и отвечать с помощью JSON, который соответствует сигнатуре функции. Вызовы функций позволяют разработчикам более надежно извлекать структурированные данные из моделей. Например, разработчики могут:
Создавайте чат-ботов, которые отвечают на вопросы, вызывая внешние инструменты, такие как плагин ChatGPT;
Превращение вопроса типа «Спросите Аню, не хочет ли она кофе в следующую пятницу» в вызов функции типа send_email(to: string, body: string) или «Какая сейчас погода в Бостоне?» в get_current _weather( местоположение: строка, единица измерения: 'Цельсий' | 'Фаренгейт');
· Преобразование естественного языка в вызовы API или запросы к базе данных;
Преобразуйте «Кто мои первые десять клиентов в этом месяце?» во внутренний вызов API, такой как get_customers_by_revenue(start_date: строка, end_date: строка, limit: int) или «на сколько заказов место Acme, Inc. за месяц?" Используйте sql_query(query: string) для преобразования в SQL-запрос;
Извлечение структурированных данных из текста;
· Определите функцию с именем extract_people_data(people: [{имя: строка, день рождения: строка, местоположение: строка}]) для извлечения всех упоминаний людей из статьи Википедии.
Все эти варианты использования поддерживаются новыми параметрами API в нашей конечной точке /v1/chat/completions, functions и function_call, которые позволяют разработчикам описывать функции для модели с помощью схемы JSON и при необходимости запрашивать у нее определенные функции. Пожалуйста, начните работу с нашей документацией для разработчиков, и если вы обнаружите ситуации, в которых можно было бы улучшить вызовы функций, добавьте оценку.
пример вызова функции
Какая сейчас погода в Бостоне?
API OpenAI
Вызвать модель с помощью функции и пользовательского ввода
шаг 2
Сторонние API
Вызовите свой API с ответом модели
шаг 3
API OpenAI
Отправьте ответ модели для обобщения. Погода в Бостоне сейчас солнечная, температура 22 градуса по Цельсию. С момента выпуска альфа-версии плагина ChatGPT мы многое узнали о том, как обеспечить безопасную совместную работу инструментов и языковых моделей. Тем не менее, есть еще некоторые открытые исследовательские вопросы. Например, пробная уязвимость показывает, как получение недостоверных данных из выходных данных инструмента может привести к тому, что модель будет выполнять неожиданные действия. Мы прилагаем все усилия, чтобы снизить эти и другие риски. Разработчики могут защитить свои приложения, используя информацию только из надежных инструментов и включив шаги подтверждения пользователя перед выполнением действий, имеющих реальное влияние, таких как отправка электронной почты, публикация в Интернете или совершение покупки.
новая модель
ГПТ-4
gpt-4-0613 включает обновленные и улучшенные модели, а также функции вызова функций.
gpt-4-32k-0613 включает те же улучшения, что и gpt-4-0613, а также увеличенную длину контекста для лучшего понимания больших текстов.
С этими обновлениями мы будем приглашать больше людей из списка ожидания, чтобы опробовать GPT-4 в ближайшие недели, с целью полностью удалить список ожидания для этой модели. Спасибо всем, кто проявил терпение, мы с нетерпением ждем возможности увидеть, что вы создадите с помощью GPT-4!
ГПТ-3.5 Турбо
gpt-3.5-turbo-0613 включает в себя те же возможности вызова функций, что и GPT-4, а также более надежный контроль с помощью системных сообщений, что позволяет разработчикам более эффективно управлять откликами модели.
gpt-3.5-turbo-16k обеспечивает в четыре раза большую длину контекста, чем gpt-3.5-turbo, но в два раза дороже: 0,003 долл. США за 1 тыс. входных токенов и 0,004 долл. США за 1 тыс. выходных токенов. Контекст 16 тыс. означает, что модели теперь можно использовать примерно на 20 страницах. текста поддерживаются в одном запросе.
устаревание модели
Сегодня мы начнем процесс обновления и прекращения поддержки начальных версий gpt-4 и gpt-3.5-turbo, о которых мы объявили в марте. Приложения, использующие названия стабильных моделей (gpt-3.5-turbo, gpt-4 и gpt-4-32k), будут автоматически обновлены до новых моделей, перечисленных выше, 27 июня. Чтобы сравнить производительность между версиями модели, наша библиотека поддерживает общедоступные и частные оценки, чтобы продемонстрировать, как изменения модели повлияют на ваш вариант использования.
Разработчики, которым нужно больше времени для перехода, могут продолжать использовать старую модель, указав gpt-3.5-turbo-0301, gpt-4-0314 или gpt-4-32k-0314 в параметре 'model' своих API-запросов. Эти старые модели по-прежнему будут доступны после 13 сентября, после чего запросы с указанием названий этих моделей не будут выполняться. Вы можете быть в курсе устаревших моделей на нашей странице устаревших моделей. Это первое обновление для этих моделей, поэтому мы приветствуем отзывы разработчиков, которые помогут нам обеспечить плавный переход.
Понизить цену
Начиная с сегодняшнего дня, мы продолжаем повышать эффективность наших систем и передавать эту экономию средств разработчикам.
Вложения
text-embedding-ada-002 — наша самая популярная модель встраивания. Сегодня мы снизили его стоимость на 75% до $0,0001 за 1 тыс. токенов.
ГПТ-3.5 Турбо
gpt-3.5-turbo — наша самая популярная модель чата, предоставляющая услуги ChatGPT миллионам пользователей. Сегодня мы снизили стоимость входного токена gpt-3.5-turbo на 25%. Теперь разработчики могут использовать эту модель по цене 0,0015 долл. США за 1 тыс. входных токенов и 0,002 долл. США за 1 тыс. выходных токенов, что соответствует примерно 700 страницам за доллар.
Цена gpt-3.5-turbo-16k составит 0,003 доллара США за 1 тыс. входных токенов и 0,004 доллара США за 1 тыс. выходных токенов.