OpenAI đã được cập nhật rất nhiều và nó đã trở nên mạnh mẽ hơn nữa! API có khả năng gọi hàm đáng sợ, có thể xử lý ngữ cảnh dài hơn và giá đã giảm 75%!

Vào ngày 13 tháng 6, trang web chính thức của OpenAI đã bất ngờ tung ra bản cập nhật khả năng mới nhất của ChatGPT. Các điểm chính như sau:

1. Hàm mới: Khả năng gọi hàm mới đã được thêm vào API Hoàn thành trò chuyện, cho phép mô hình gọi các hàm và tạo các đối tượng JSON tương ứng làm đầu ra khi cần. Điều này cho phép các nhà phát triển lấy dữ liệu có cấu trúc từ các mô hình một cách chính xác hơn, thực hiện chuyển đổi từ ngôn ngữ tự nhiên sang lệnh gọi API hoặc truy vấn cơ sở dữ liệu và cũng có thể được sử dụng để trích xuất dữ liệu có cấu trúc từ văn bản.

(Tức là, sau khi tinh chỉnh OpenAI, nếu bạn nói lời nói của con người với nó, nó có thể nhận ra và chuyển đổi nó thành một chức năng cho bạn. Hơn nữa, nó có thể nhận ra khả năng lập trình mà không cần lập trình, và sẽ thuận tiện hơn khi sử dụng thu được từ cấu trúc hỗn loạn. dữ liệu có cấu trúc)

2. Cập nhật mô hình: đã cập nhật các phiên bản gpt-4 và gpt-3.5-turbo dễ kiểm soát hơn và phiên bản ngữ cảnh 16k mới của gpt-3.5-turbo, phiên bản này có thể xử lý văn bản dài hơn phiên bản 4k tiêu chuẩn.

(có thể hỗ trợ 20 trang văn bản!)

3. Ngừng sử dụng mô hình: Đã công bố lịch trình ngừng hoạt động của các mô hình gpt-3.5-turbo-0301 và gpt-4-0314. Người dùng các mẫu này có thể chọn nâng cấp lên mẫu mới hơn cho đến một thời điểm nhất định, sau đó mẫu cũ sẽ không còn nữa.

(Một mặt, hãy chú ý đến những người vẫn đang sử dụng các mô hình này, hãy bắt kịp nhịp OpenAI điên cuồng. Mặt khác, nhiều người đã đánh giá các mô hình phiên bản trước của OpenAI, OpenAI đã từ bỏ chúng..)

4. Điều chỉnh giá: Giá của mô hình nhúng tiên tiến nhất đã giảm 75% và giá mã thông báo đầu vào của gpt-3.5-turbo đã giảm 25%.

(Sam Altman đã nói trong cuộc diễu hành gần đây rằng giá sẽ tiếp tục giảm và điều này đang đến. Và việc giảm giá là mức giá cắt mắt cá chân của mẫu mạnh nhất. Giá mới nhất, trên mỗi 1k mã thông báo, là 0,0001 đô la Mỹ)

OpenAI cũng nhấn mạnh rằng tất cả các mô hình này tiếp tục duy trì đảm bảo quyền riêng tư và bảo mật dữ liệu được giới thiệu vào ngày 1 tháng 3 - khách hàng sở hữu tất cả các đầu ra mà họ yêu cầu tạo và dữ liệu API của họ sẽ không được sử dụng để đào tạo. Với những bản cập nhật này, chúng tôi sẽ mời nhiều người hơn nữa trong danh sách chờ dùng thử GPT-4 và chúng tôi mong muốn được biết bạn xây dựng những dự án nào bằng GPT-4! Chúng tôi khuyến khích phản hồi của nhà phát triển để giúp chúng tôi đảm bảo quá trình chuyển đổi suôn sẻ các bản cập nhật mô hình.

Sau đây là toàn văn thông báo:

Chúng tôi đã phát hành các mẫu gpt-3.5-turbo và gpt-4 vào đầu năm nay và chỉ trong vài tháng, chúng tôi đã chứng kiến các nhà phát triển xây dựng các ứng dụng đáng kinh ngạc trên các mẫu này. Hôm nay, chúng tôi đang theo dõi một số cập nhật thú vị:

Chức năng gọi chức năng mới trong API Hoàn thành trò chuyện

· Đã cập nhật các phiên bản gpt-4 và gpt-3.5-turbo với khả năng kiểm soát bổ sung

· Phiên bản ngữ cảnh 16k mới của gpt-3.5-turbo (so với phiên bản 4k tiêu chuẩn)

Giảm 75% giá cho mô hình nhúng hiện đại của chúng tôi

Giảm 25% giá của mã thông báo đầu vào gpt-3.5-turbo

Đã công bố lịch trình ngừng sử dụng cho các mẫu gpt-3.5-turbo-0301 và gpt-4-0314

Tất cả các mô hình này đều đi kèm với cùng một đảm bảo bảo mật và quyền riêng tư dữ liệu mà chúng tôi đã ra mắt vào ngày 1 tháng 3 - khách hàng sở hữu tất cả kết quả do yêu cầu của họ tạo ra và dữ liệu API của họ không được sử dụng cho mục đích đào tạo. gọi hàm

Giờ đây, các nhà phát triển có thể mô tả các hàm cho gpt-4-0613 và gpt-3.5-turbo-0613, đồng thời yêu cầu mô hình chọn xuất một đối tượng JSON một cách thông minh có chứa các đối số để gọi các hàm đó. Đây là một cách mới để kết nối đáng tin cậy hơn các khả năng của GPT với các công cụ và API bên ngoài. Các mô hình này đã được tinh chỉnh để vừa phát hiện khi nào một hàm cần được gọi (tùy thuộc vào đầu vào của người dùng) vừa phản hồi bằng JSON phù hợp với chữ ký của hàm. Các lệnh gọi hàm cho phép các nhà phát triển truy xuất dữ liệu có cấu trúc từ các mô hình một cách đáng tin cậy hơn. Ví dụ: nhà phát triển có thể:

Tạo chatbot trả lời câu hỏi bằng cách gọi các công cụ bên ngoài như plugin ChatGPT;

Biến một câu hỏi như "Hỏi Anya xem cô ấy có muốn uống cà phê vào thứ Sáu tới không" thành một lệnh gọi hàm như send_email(to: string, body: string) hoặc "Thời tiết ở Boston hiện tại như thế nào?" thành get_current _weather( vị trí: chuỗi, đơn vị: 'độ C' | 'độ F');

· Chuyển đổi ngôn ngữ tự nhiên thành lệnh gọi API hoặc truy vấn cơ sở dữ liệu;

Chuyển đổi "Mười khách hàng hàng đầu của tôi trong tháng này là ai?" thành lệnh gọi API nội bộ, chẳng hạn như get_customers_by_revenue(start_date: string, end_date: string, limit: int) hoặc "on How many order Acme, Inc. có diễn ra trong một tháng không?" Sử dụng sql_query(query: string) để chuyển sang truy vấn SQL;

Trích xuất dữ liệu có cấu trúc từ văn bản;

· Định nghĩa một hàm gọi là extract_people_data(people: [{name: string, birthday: string, location: string}]) để trích xuất tất cả các đề cập của mọi người từ một bài viết trên Wikipedia.

Tất cả các trường hợp sử dụng này đều được kích hoạt bởi các tham số API mới trong /v1/chat/completions điểm cuối, hàm và hàm_call của chúng tôi, cho phép nhà phát triển mô tả các hàm cho mô hình thông qua Lược đồ JSON và tùy chọn yêu cầu mô hình gọi các hàm cụ thể. Vui lòng bắt đầu với tài liệu dành cho nhà phát triển của chúng tôi và nếu bạn thấy các tình huống có thể cải thiện lệnh gọi hàm, vui lòng thêm đánh giá.

ví dụ gọi hàm

Thời tiết như thế nào ở Boston ngay bây giờ?

bước 1

API OpenAI

Gọi mô hình với chức năng và đầu vào của người dùng

bước 2

API của bên thứ ba

Gọi API của bạn với phản hồi của mô hình

bước 3

API OpenAI

Gửi phản hồi lại cho mô hình để tổng hợp Thời tiết ở Boston hiện đang có nắng với nhiệt độ 22 độ C. Kể từ khi phát hành bản alpha của plugin ChatGPT, chúng tôi đã học được rất nhiều điều về cách làm cho các công cụ và mô hình ngôn ngữ hoạt động cùng nhau một cách an toàn. Tuy nhiên, vẫn còn một số câu hỏi nghiên cứu mở. Ví dụ: lỗ hổng chứng minh khái niệm minh họa cách thu thập dữ liệu không đáng tin cậy từ đầu ra của công cụ có thể khiến mô hình thực hiện các hành động không mong muốn. Chúng tôi đang nỗ lực để giảm thiểu những rủi ro này và các rủi ro khác. Nhà phát triển có thể bảo vệ ứng dụng của họ bằng cách chỉ sử dụng thông tin từ các công cụ đáng tin cậy và bao gồm các bước xác nhận của người dùng trước khi thực hiện các hành động có tác động trong thế giới thực, chẳng hạn như gửi email, đăng trực tuyến hoặc mua hàng.

người mẫu mới

GPT-4

gpt-4-0613 bao gồm các mô hình được cập nhật và cải tiến cũng như chức năng gọi hàm.

gpt-4-32k-0613 bao gồm các cải tiến tương tự như gpt-4-0613, cộng với độ dài ngữ cảnh tăng lên để hiểu rõ hơn về các văn bản lớn hơn.

Với những cập nhật này, chúng tôi sẽ mời thêm nhiều người trong danh sách chờ dùng thử GPT-4 trong những tuần tới, với mục tiêu xóa hoàn toàn danh sách chờ cho mô hình này. Cảm ơn tất cả những người đã kiên nhẫn, chúng tôi mong muốn được xem những gì bạn xây dựng với GPT-4!

GPT-3.5 Turbo

gpt-3.5-turbo-0613 bao gồm các khả năng gọi hàm giống như GPT-4, cũng như khả năng kiểm soát đáng tin cậy hơn thông qua thông báo hệ thống, cả hai đều cho phép nhà phát triển hướng dẫn phản hồi mô hình hiệu quả hơn.

gpt-3.5-turbo-16k cung cấp độ dài ngữ cảnh gấp bốn lần gpt-3.5-turbo, nhưng với mức giá gấp đôi: 0,003 USD cho mỗi 1K mã thông báo đầu vào và 0,004 USD cho mỗi 1K mã thông báo đầu ra. Ngữ cảnh 16k có nghĩa là các mô hình hiện có thể được sử dụng trong Khoảng 20 trang của văn bản được hỗ trợ trong một yêu cầu.

loại bỏ mô hình

Hôm nay, chúng tôi sẽ bắt đầu quá trình nâng cấp và ngừng sử dụng các phiên bản đầu tiên của gpt-4 và gpt-3.5-turbo mà chúng tôi đã công bố vào tháng 3. Các ứng dụng sử dụng tên kiểu máy ổn định (gpt-3.5-turbo, gpt-4 và gpt-4-32k) sẽ tự động nâng cấp lên các kiểu máy mới được liệt kê ở trên vào ngày 27 tháng 6. Để so sánh hiệu suất giữa các phiên bản mô hình, thư viện của chúng tôi hỗ trợ các đánh giá công khai và riêng tư để chứng minh những thay đổi về mô hình sẽ ảnh hưởng như thế nào đến trường hợp sử dụng của bạn.

Những nhà phát triển cần thêm thời gian để chuyển đổi có thể tiếp tục sử dụng mô hình cũ bằng cách chỉ định gpt-3.5-turbo-0301, gpt-4-0314 hoặc gpt-4-32k-0314 trong thông số 'mô hình' của các yêu cầu API của họ . Các mẫu cũ này sẽ vẫn có thể truy cập được sau ngày 13 tháng 9, sau đó các yêu cầu chỉ định các tên mẫu này sẽ không thành công. Bạn có thể cập nhật thông tin về việc ngừng cung cấp mô hình trên trang ngừng cung cấp mô hình của chúng tôi. Đây là bản cập nhật đầu tiên cho các mô hình này; do đó, chúng tôi hoan nghênh phản hồi của nhà phát triển để giúp chúng tôi đảm bảo chuyển đổi suôn sẻ.

Hạ giá

Có hiệu lực từ hôm nay, chúng tôi tiếp tục cải thiện hiệu quả của các hệ thống của mình và chuyển những khoản tiết kiệm chi phí này cho các nhà phát triển.

nhúng

text-embedding-ada-002 là mô hình nhúng phổ biến nhất của chúng tôi. Hôm nay, chúng tôi đã giảm 75% chi phí xuống còn 0,0001 đô la cho mỗi 1K mã thông báo.

GPT-3.5 Turbo

gpt-3.5-turbo là mô hình trò chuyện phổ biến nhất của chúng tôi, cung cấp dịch vụ ChatGPT cho hàng triệu người dùng. Hôm nay, chúng tôi đã giảm 25% chi phí mã thông báo đầu vào của gpt-3.5-turbo. Các nhà phát triển hiện có thể sử dụng mô hình này với giá 0,0015 đô la cho mỗi 1K mã thông báo đầu vào và 0,002 đô la cho mỗi 1K mã thông báo đầu ra, tương đương với khoảng 700 trang trên mỗi đô la.

Giá của gpt-3.5-turbo-16k sẽ là 0,003 USD cho mỗi 1K mã thông báo đầu vào và 0,004 USD cho mỗi 1K mã thông báo đầu ra.

Phản hồi của nhà phát triển là nền tảng cho quá trình phát triển nền tảng của chúng tôi và chúng tôi sẽ tiếp tục cải tiến dựa trên các đề xuất mà chúng tôi nhận được. Chúng tôi mong muốn được xem cách các nhà phát triển sử dụng các mô hình mới nhất này và các tính năng mới trong ứng dụng của họ.