Tuần trước, một thiết bị "nhỏ" mới đã khơi dậy sự nhiệt tình của cộng đồng công nghệ toàn cầu. Đây là phần cứng AI thực sự đầu tiên trong lịch sử loài người được đầu tư bởi Giám đốc điều hành OpenAI Sam Altman - AI Pin.
Ghim AI được ghim trực tiếp vào ngực khi sử dụng Từ: Humane Official
Phần cứng này, được ghim vào ngực và được nhiều phương tiện truyền thông mệnh danh là "iPhone trong kỷ nguyên AI", làm nổi bật sự "triệt để" trong thiết kế, trực tiếp cắt đứt màn hình mà các thiết bị di động trung tâm phải có trong quá khứ và nó phải chạy độc lập với điện thoại thông minh.
Trong bản demo chính thức, AI Pin có thể trực tiếp tính toán có bao nhiêu gram protein trong hạnh nhân trong tay bạn Từ: Humane Official
Ở cấp độ ứng dụng, trợ lý AI được cung cấp bởi GPT4 vừa là hệ thống vừa là ứng dụng duy nhất. Lệnh thoại của người dùng là điều khiển chính. Phần còn lại của trình chiếu laser và nhận dạng cử chỉ chỉ được sử dụng như một phần bổ sung cho toàn bộ hệ thống tương tác, cung cấp cho người dùng thông tin, thời tiết, thời gian, ngày tháng, điều hướng và các nội dung khác với giao diện và điều khiển rất đơn giản.
Steven Tey, một nhà phát triển nổi tiếng, nói rằng AI Pin khiến ông nhớ đến việc phát hành iPhone vào thời điểm đó
Sự lật đổ logic tương tác của toàn bộ kỷ nguyên Internet di động này đã khiến AI Pin được nhiều người dùng geek yêu thích.
Ý tưởng của hầu hết người dùng thông thường là họ "hy vọng sẽ nhúng sự tương tác và khả năng này vào điện thoại thông minh của họ" để nâng cấp điện thoại thông minh của họ một lần nữa.
Rõ ràng, với việc triển khai dần dần các khả năng khác nhau của các mô hình lớn, người tiêu dùng sắp bước vào kỷ nguyên mà họ xem xét liệu thiết bị di động của họ có thể chạy các khả năng AI một cách trơn tru hay không, thay vì chỉ có hiệu suất tuyệt đối của CPU và GPU. Và điều này chắc chắn sẽ mang lại những thách thức và cơ hội mới.
** Những thách thức của việc phổ biến các mô hình AI trên thiết bị đầu cuối di động là gì?**
Trước hết, đó là các yêu cầu sức mạnh tính toán mới được đề xuất bởi mô hình AI.
Không giống như điện thoại di động và máy tính xách tay phải đối mặt với nhiều hệ thống và tải phần mềm khác nhau, các mô hình lớn đã tăng hàng chục lần về quy mô thần kinh, dung lượng tính toán, không gian lưu trữ và tốc độ đọc và ghi so với các ứng dụng AI trước đây.
So sánh thang đo thông số GPT-3 và GPT-4 từ: trung bình
Lấy mô hình GPT-4 mới nhất của OpenAI làm ví dụ, theo tin đồn trong ngành, có tới 1,8 nghìn tỷ thông số, trong khi GPT-1 của nó được phát hành vào năm 2018 chỉ có 110 triệu thông số. Sự khác biệt về quy mô là 10.000 lần.
Ngay cả khi mô hình được thu gọn trong giai đoạn ứng dụng mô hình lớn di động, số lượng tham số mô hình suy luận trong ứng dụng thực tế sẽ cao tới 7 tỷ đến 10 tỷ tham số. Dựa vào phương pháp nâng cấp thông số phần cứng trước đây của CPU và GPU trên các thiết bị đầu cuối di động chắc chắn sẽ không thể đáp ứng được nhu cầu sử dụng điện toán AI đã tăng lên nhiều lần, thậm chí hàng chục lần.
Chỉ có hai cách để giải quyết nhu cầu mới, hoặc kết nối Internet và sử dụng mạng để "chuyển" quá trình tính toán lên đám mây. Hoặc tìm cách cải thiện sức mạnh tính toán và tính toán kết quả trực tiếp cục bộ.
Ghim AI được giới thiệu ở đầu sản phẩm được đóng gói và tích hợp với các dịch vụ mạng của các nhà khai thác Mỹ và tiền thuê hàng tháng là 24 đô la không chỉ để trả cho khả năng dịch vụ của OpenAI mà còn chi tiêu cho các mạng di động.
Cách tiếp cận có vẻ "súc tích" này cũng có rất nhiều câu hỏi.
Đầu tiên là vấn đề riêng tư nguy hiểm nhất, sẽ dẫn đến rủi ro bảo mật dữ liệu nếu dữ liệu cá nhân, hầu hết các bit và mảnh cuộc sống của cá nhân và thậm chí một số thông tin cực kỳ riêng tư đều được tải lên bằng phần cứng như AI Pin.
Lùi lại một bước, chất lượng mạng đưa tất cả các nhu cầu điện toán AI lên đám mây, tải dữ liệu cục bộ lên và sau đó tải xuống dữ liệu, sẽ ảnh hưởng lớn đến trải nghiệm người dùng cuối. Đặc biệt là ở nước ngoài, nơi vùng phủ sóng mạng di động không tốt như Trung Quốc, có khả năng cao bị lag hoặc thậm chí không có phản hồi.
Thách thức về chi phí cũng đáng chú ý, mặc dù khoản đầu tư trả trước của việc mua một lần sức mạnh tính toán cục bộ lớn hơn so với sức mạnh điện toán đám mây được đăng ký liên tục, nhưng toàn bộ vòng đời thường tiết kiệm chi phí hơn nhiều. Lấy AI Pin làm ví dụ, với giá khởi điểm 699 đô la và giá thuê 24 đô la mỗi tháng thì không hề rẻ.
Tích hợp ba điểm trên, không khó để đi đến kết luận: bản địa hóa các mô hình lớn AI trên di động là giải pháp tối ưu.
Tương ứng, ngành công nghiệp thiết bị di động cần thực hiện nâng cấp toàn diện từ phần cứng cơ bản lên hệ sinh thái cấp cao nhất.
Qualcomm trong kỷ nguyên AI
Nhìn lại toàn bộ thị trường di động, chỉ có một vài người chơi có khả năng thúc đẩy bản nâng cấp toàn diện này, và Qualcomm là một trong số đó.
Vào MWC2023 đầu năm, Qualcomm đã trình diễn Stable Diffusion, một mô hình AI tạo ra, hoạt động trên điện thoại thông minh được cung cấp bởi Snapdragon 8 thế hệ thứ hai. Với thang đo 1 tỷ tham số, mô hình Khuếch tán ổn định có thể thực hiện 20 bước suy luận trong 15 giây, tạo lời nhắc văn bản thành hình ảnh.
Điểm nổi bật của nền tảng di động Snapdragon 8 thế hệ thứ 3
Trên nền tảng di động hàng đầu mới được phát hành gần đây của Qualcomm, Snapdragon 8 thế hệ thứ ba, cốt lõi của công cụ AI của Qualcomm, Hexagon NPU, đã được nâng cấp một lần nữa, với hiệu suất tổng thể được cải thiện 98% và hiệu suất năng lượng được cải thiện 40%.
Ở khía cạnh hiệu suất chi tiết hơn, NPU Hexagon mới nhất cải thiện hiệu suất AI của nó lên tới 3,5 lần bằng cách tích hợp trung tâm cảm biến Qualcomm mạnh mẽ hơn, bao gồm 2 ISP luôn bật, 1 DPS, 2 NPU siêu nhỏ, bộ nhớ nhiều hơn 30% và hỗ trợ chế độ tính toán INT4.
Kết quả trực quan là Snapdragon 8 thế hệ thứ ba có khả năng chạy các mô hình AI tạo ra với tối đa 10 tỷ thông số và các mô hình ngôn ngữ lớn ở mức 20 mã thông báo / s. Và nó không chỉ là những con số được hỗ trợ, đó là những khả năng đã có thể đạt được.
Với hiệu năng mạnh mẽ như vậy, Snapdragon 8 thế hệ thứ ba đã có thể chạy được nhiều ứng dụng liên quan đến các mẫu AI lớn cục bộ.
Zhao Ming, Giám đốc điều hành của Honor Mobile, đã trình diễn trường hợp sử dụng AI trên điện thoại di động tại Hội nghị thượng đỉnh Snapdragon, có thể hỗ trợ việc tạo video theo chủ đề trên điện thoại di động. Hệ thống điện thoại di động có thể tự truy xuất hình ảnh và video có cùng chủ đề trong thư viện phương tiện cục bộ, sau đó để mô hình lớn AI chỉnh sửa video.
Người dùng sau đó có thể thay đổi nhạc nền và mẫu bằng cách nói chuyện với AI và toàn bộ quá trình này sẽ hoàn toàn cục bộ trong tương lai mà không phải lo lắng về việc vô tình rò rỉ dữ liệu ảnh và video riêng tư sau khi tải lên đám mây.
Trên dòng Xiaomi 14, WPS đã được điều chỉnh không chỉ tạo các bản trình bày PPT chỉ bằng một cú nhấp chuột với chủ đề đầu vào mà còn nhận dạng hình ảnh và bài viết có văn bản, nhận ra "một cái nhìn và mười dòng" quét và đọc, trích xuất các điểm chính và người dùng có thể đặt câu hỏi trực tiếp cho AI theo các câu hỏi họ muốn biết nhất.
Trình diễn chức năng WPS trên Xiaomi 14
Đối với các tài liệu, chẳng hạn như giấy tờ, hợp đồng và chương trình học, WPS AI có thể giúp người dùng hiểu, phân tích và tóm tắt toàn bộ văn bản thông qua quét và nhận dạng, đồng thời cung cấp các chức năng truy xuất nguồn gốc tài liệu để đảm bảo tính chính xác và xác thực.
Ngoài nền tảng di động Snapdragon 8 thế hệ thứ ba mạnh mẽ, Qualcomm cũng tiết lộ bộ xử lý điện toán sẵn sàng cho PC mạnh nhất của mình cho đến nay: Snapdragon X Elite.
Trong số đó, ở phần CPU, Qualcomm đã cung cấp CPU Oryon được xây dựng lại hoàn toàn với tiền đề tương thích với tập lệnh ARM, quan chức này cho biết hiệu suất lõi đơn của nó cao hơn Apple M2 Max khoảng 14% và mức tiêu thụ điện năng giảm30%; Đồng thời, hiệu suất đơn luồng của CPU vượt quá i9-13980HX, được thiết kế đặc biệt cho các thiết bị đầu cuối trò chơi hiệu suất cao và mức tiêu thụ điện năng giảm 70% ở cùng mức hiệu suất.
Hiệu suất của GPU Adreno cũng đã được cải thiện lên 4,6 nghìn tỷ hoạt động dấu phẩy động (TFLOPS), đồng thời hỗ trợ 4K@120Hz màn hình HDR10 và mở rộng lên ba màn hình ngoài UHD hoặc hai 5K.
So với nền tảng di động, sức mạnh tính toán không đồng nhất của X Elite đã được cải thiện hơn nữa, đạt 75TOPS, trong đó Hexagon NPU hỗ trợ sức mạnh tính toán 45TOPS. Nhờ hiệu suất tuyệt vời của nó, nó đã có thể chạy mô hình tham số 13 tỷ cục bộ và mô hình ngôn ngữ lớn tham số 7 tỷ có thể tạo ra 30 mã thông báo mỗi giây.
Tại Hội nghị thượng đỉnh Snapdragon, Blackmagic Design, nhà sản xuất phần mềm chỉnh sửa video nổi tiếng Leonardo da Vinci, cũng đã đưa ra một bức tranh về việc sử dụng Snapdragon X Elite trong AI: đối với Magic Mask tính toán chuyên sâu hỗ trợ AI, Snapdragon X Elite nhanh hơn 1,7 lần so với bộ xử lý Windows 12 lõi cao cấp có GPU tích hợp và Magic Mask chạy trên NPU tích hợp, nhanh gấp 3 lần so với chạy trên cùng một bộ xử lý 12 lõi.
Điểm nổi bật của chip Snapdragon X Elite trong nháy mắt
Đằng sau hiệu suất tuyệt vời của điện thoại di động và máy tính xách tay, ngoài hiệu suất chip mạnh mẽ của Qualcomm, nó còn có tín dụng của ngăn xếp phần mềm AI tổng thể của Qualcomm. Ví dụ, tại hội nghị thượng đỉnh này, Qualcomm đã công bố bổ sung hỗ trợ truy cập nhanh ONNX Runtime vào chip Snapdragon và hỗ trợ cho Compute Driver Model (MCDM) của Microsoft.
Trước đây là một khung suy luận do Microsoft đưa ra, hỗ trợ nhiều phụ trợ đang chạy, để các nhà phát triển có thể hiệu quả hơn khi tạo các ứng dụng suy luận tương ứng; đối với việc hỗ trợ MCDM, NPU Qualcomm trong tương lai sẽ hiệu quả và trực tiếp hơn trong hệ thống Windows.
Những nỗ lực của Qualcomm trong hệ sinh thái không chỉ giúp các đối tác nhà cung cấp thiết bị đầu cuối xây dựng các sản phẩm xuất sắc, mà còn thu hút ngày càng nhiều nhà cung cấp phần mềm và nhà phát triển độc lập tham gia vào hệ sinh thái của Qualcomm để thúc đẩy việc triển khai và thúc đẩy các ứng dụng mô hình lớn AI trên nền tảng Qualcomm.
**Qualcomm vẫn tăng tốc **
Kể từ khi khởi động dự án nghiên cứu AI đầu tiên, Qualcomm đã tham gia sâu vào lĩnh vực AI trong hơn mười năm. Nhiều năm tích lũy công nghệ trong các nền tảng di động, cũng như liên tục khám phá các khả năng của AI, cuối cùng đã bùng nổ vào thời điểm mô hình AI hạ cánh.
Theo chu kỳ phát triển chip trong ngành bán dẫn khoảng 3 năm, nền tảng di động Snapdragon 8 thế hệ thứ ba mới ra mắt và Snapdragon X Elite với hiệu năng xuất sắc đã bước vào quá trình phát triển ngay từ khoảng năm 2020, điều này cho thấy sự hiểu biết và nắm bắt sâu sắc của Qualcomm về các thiết bị di động và ngành công nghiệp trí tuệ nhân tạo.
Việc theo đuổi công nghệ tiên tiến này và ý định ban đầu là mang lại trải nghiệm tối ưu cho người dùng thúc đẩy Qualcomm tiếp tục tiến về phía trước. Nó cũng cho phép Qualcomm, công ty đã vươn lên từ kỷ nguyên 3G / 4G với công nghệ truyền thông và nền tảng SoC điện thoại di động, nắm bắt cơ hội hiếm có của các mô hình lớn AI một lần nữa.
Qualcomm như vậy nghiễm nhiên sẽ trở thành lựa chọn hàng đầu cho những người tiêu dùng không còn chỉ tập trung vào hiệu suất xử lý cơ bản của thiết bị di động mà chú ý nhiều hơn đến hiệu suất AI.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Thời đại thay thế một máy tính chỉ dựa trên hiệu suất CPU / GPU đã qua
Nguồn gốc: Silicon Star People
Tuần trước, một thiết bị "nhỏ" mới đã khơi dậy sự nhiệt tình của cộng đồng công nghệ toàn cầu. Đây là phần cứng AI thực sự đầu tiên trong lịch sử loài người được đầu tư bởi Giám đốc điều hành OpenAI Sam Altman - AI Pin.
Phần cứng này, được ghim vào ngực và được nhiều phương tiện truyền thông mệnh danh là "iPhone trong kỷ nguyên AI", làm nổi bật sự "triệt để" trong thiết kế, trực tiếp cắt đứt màn hình mà các thiết bị di động trung tâm phải có trong quá khứ và nó phải chạy độc lập với điện thoại thông minh.
Ở cấp độ ứng dụng, trợ lý AI được cung cấp bởi GPT4 vừa là hệ thống vừa là ứng dụng duy nhất. Lệnh thoại của người dùng là điều khiển chính. Phần còn lại của trình chiếu laser và nhận dạng cử chỉ chỉ được sử dụng như một phần bổ sung cho toàn bộ hệ thống tương tác, cung cấp cho người dùng thông tin, thời tiết, thời gian, ngày tháng, điều hướng và các nội dung khác với giao diện và điều khiển rất đơn giản.
Sự lật đổ logic tương tác của toàn bộ kỷ nguyên Internet di động này đã khiến AI Pin được nhiều người dùng geek yêu thích.
Ý tưởng của hầu hết người dùng thông thường là họ "hy vọng sẽ nhúng sự tương tác và khả năng này vào điện thoại thông minh của họ" để nâng cấp điện thoại thông minh của họ một lần nữa.
Rõ ràng, với việc triển khai dần dần các khả năng khác nhau của các mô hình lớn, người tiêu dùng sắp bước vào kỷ nguyên mà họ xem xét liệu thiết bị di động của họ có thể chạy các khả năng AI một cách trơn tru hay không, thay vì chỉ có hiệu suất tuyệt đối của CPU và GPU. Và điều này chắc chắn sẽ mang lại những thách thức và cơ hội mới.
** Những thách thức của việc phổ biến các mô hình AI trên thiết bị đầu cuối di động là gì?**
Trước hết, đó là các yêu cầu sức mạnh tính toán mới được đề xuất bởi mô hình AI.
Không giống như điện thoại di động và máy tính xách tay phải đối mặt với nhiều hệ thống và tải phần mềm khác nhau, các mô hình lớn đã tăng hàng chục lần về quy mô thần kinh, dung lượng tính toán, không gian lưu trữ và tốc độ đọc và ghi so với các ứng dụng AI trước đây.
Lấy mô hình GPT-4 mới nhất của OpenAI làm ví dụ, theo tin đồn trong ngành, có tới 1,8 nghìn tỷ thông số, trong khi GPT-1 của nó được phát hành vào năm 2018 chỉ có 110 triệu thông số. Sự khác biệt về quy mô là 10.000 lần.
Ngay cả khi mô hình được thu gọn trong giai đoạn ứng dụng mô hình lớn di động, số lượng tham số mô hình suy luận trong ứng dụng thực tế sẽ cao tới 7 tỷ đến 10 tỷ tham số. Dựa vào phương pháp nâng cấp thông số phần cứng trước đây của CPU và GPU trên các thiết bị đầu cuối di động chắc chắn sẽ không thể đáp ứng được nhu cầu sử dụng điện toán AI đã tăng lên nhiều lần, thậm chí hàng chục lần.
Chỉ có hai cách để giải quyết nhu cầu mới, hoặc kết nối Internet và sử dụng mạng để "chuyển" quá trình tính toán lên đám mây. Hoặc tìm cách cải thiện sức mạnh tính toán và tính toán kết quả trực tiếp cục bộ.
Ghim AI được giới thiệu ở đầu sản phẩm được đóng gói và tích hợp với các dịch vụ mạng của các nhà khai thác Mỹ và tiền thuê hàng tháng là 24 đô la không chỉ để trả cho khả năng dịch vụ của OpenAI mà còn chi tiêu cho các mạng di động.
Cách tiếp cận có vẻ "súc tích" này cũng có rất nhiều câu hỏi.
Đầu tiên là vấn đề riêng tư nguy hiểm nhất, sẽ dẫn đến rủi ro bảo mật dữ liệu nếu dữ liệu cá nhân, hầu hết các bit và mảnh cuộc sống của cá nhân và thậm chí một số thông tin cực kỳ riêng tư đều được tải lên bằng phần cứng như AI Pin.
Lùi lại một bước, chất lượng mạng đưa tất cả các nhu cầu điện toán AI lên đám mây, tải dữ liệu cục bộ lên và sau đó tải xuống dữ liệu, sẽ ảnh hưởng lớn đến trải nghiệm người dùng cuối. Đặc biệt là ở nước ngoài, nơi vùng phủ sóng mạng di động không tốt như Trung Quốc, có khả năng cao bị lag hoặc thậm chí không có phản hồi.
Thách thức về chi phí cũng đáng chú ý, mặc dù khoản đầu tư trả trước của việc mua một lần sức mạnh tính toán cục bộ lớn hơn so với sức mạnh điện toán đám mây được đăng ký liên tục, nhưng toàn bộ vòng đời thường tiết kiệm chi phí hơn nhiều. Lấy AI Pin làm ví dụ, với giá khởi điểm 699 đô la và giá thuê 24 đô la mỗi tháng thì không hề rẻ.
Tích hợp ba điểm trên, không khó để đi đến kết luận: bản địa hóa các mô hình lớn AI trên di động là giải pháp tối ưu.
Tương ứng, ngành công nghiệp thiết bị di động cần thực hiện nâng cấp toàn diện từ phần cứng cơ bản lên hệ sinh thái cấp cao nhất.
Qualcomm trong kỷ nguyên AI
Nhìn lại toàn bộ thị trường di động, chỉ có một vài người chơi có khả năng thúc đẩy bản nâng cấp toàn diện này, và Qualcomm là một trong số đó.
Vào MWC2023 đầu năm, Qualcomm đã trình diễn Stable Diffusion, một mô hình AI tạo ra, hoạt động trên điện thoại thông minh được cung cấp bởi Snapdragon 8 thế hệ thứ hai. Với thang đo 1 tỷ tham số, mô hình Khuếch tán ổn định có thể thực hiện 20 bước suy luận trong 15 giây, tạo lời nhắc văn bản thành hình ảnh.
Trên nền tảng di động hàng đầu mới được phát hành gần đây của Qualcomm, Snapdragon 8 thế hệ thứ ba, cốt lõi của công cụ AI của Qualcomm, Hexagon NPU, đã được nâng cấp một lần nữa, với hiệu suất tổng thể được cải thiện 98% và hiệu suất năng lượng được cải thiện 40%.
Ở khía cạnh hiệu suất chi tiết hơn, NPU Hexagon mới nhất cải thiện hiệu suất AI của nó lên tới 3,5 lần bằng cách tích hợp trung tâm cảm biến Qualcomm mạnh mẽ hơn, bao gồm 2 ISP luôn bật, 1 DPS, 2 NPU siêu nhỏ, bộ nhớ nhiều hơn 30% và hỗ trợ chế độ tính toán INT4.
Kết quả trực quan là Snapdragon 8 thế hệ thứ ba có khả năng chạy các mô hình AI tạo ra với tối đa 10 tỷ thông số và các mô hình ngôn ngữ lớn ở mức 20 mã thông báo / s. Và nó không chỉ là những con số được hỗ trợ, đó là những khả năng đã có thể đạt được.
Với hiệu năng mạnh mẽ như vậy, Snapdragon 8 thế hệ thứ ba đã có thể chạy được nhiều ứng dụng liên quan đến các mẫu AI lớn cục bộ.
Zhao Ming, Giám đốc điều hành của Honor Mobile, đã trình diễn trường hợp sử dụng AI trên điện thoại di động tại Hội nghị thượng đỉnh Snapdragon, có thể hỗ trợ việc tạo video theo chủ đề trên điện thoại di động. Hệ thống điện thoại di động có thể tự truy xuất hình ảnh và video có cùng chủ đề trong thư viện phương tiện cục bộ, sau đó để mô hình lớn AI chỉnh sửa video.
Người dùng sau đó có thể thay đổi nhạc nền và mẫu bằng cách nói chuyện với AI và toàn bộ quá trình này sẽ hoàn toàn cục bộ trong tương lai mà không phải lo lắng về việc vô tình rò rỉ dữ liệu ảnh và video riêng tư sau khi tải lên đám mây.
Trên dòng Xiaomi 14, WPS đã được điều chỉnh không chỉ tạo các bản trình bày PPT chỉ bằng một cú nhấp chuột với chủ đề đầu vào mà còn nhận dạng hình ảnh và bài viết có văn bản, nhận ra "một cái nhìn và mười dòng" quét và đọc, trích xuất các điểm chính và người dùng có thể đặt câu hỏi trực tiếp cho AI theo các câu hỏi họ muốn biết nhất.
Đối với các tài liệu, chẳng hạn như giấy tờ, hợp đồng và chương trình học, WPS AI có thể giúp người dùng hiểu, phân tích và tóm tắt toàn bộ văn bản thông qua quét và nhận dạng, đồng thời cung cấp các chức năng truy xuất nguồn gốc tài liệu để đảm bảo tính chính xác và xác thực.
Ngoài nền tảng di động Snapdragon 8 thế hệ thứ ba mạnh mẽ, Qualcomm cũng tiết lộ bộ xử lý điện toán sẵn sàng cho PC mạnh nhất của mình cho đến nay: Snapdragon X Elite.
Trong số đó, ở phần CPU, Qualcomm đã cung cấp CPU Oryon được xây dựng lại hoàn toàn với tiền đề tương thích với tập lệnh ARM, quan chức này cho biết hiệu suất lõi đơn của nó cao hơn Apple M2 Max khoảng 14% và mức tiêu thụ điện năng giảm30%; Đồng thời, hiệu suất đơn luồng của CPU vượt quá i9-13980HX, được thiết kế đặc biệt cho các thiết bị đầu cuối trò chơi hiệu suất cao và mức tiêu thụ điện năng giảm 70% ở cùng mức hiệu suất.
Hiệu suất của GPU Adreno cũng đã được cải thiện lên 4,6 nghìn tỷ hoạt động dấu phẩy động (TFLOPS), đồng thời hỗ trợ 4K@120Hz màn hình HDR10 và mở rộng lên ba màn hình ngoài UHD hoặc hai 5K.
So với nền tảng di động, sức mạnh tính toán không đồng nhất của X Elite đã được cải thiện hơn nữa, đạt 75TOPS, trong đó Hexagon NPU hỗ trợ sức mạnh tính toán 45TOPS. Nhờ hiệu suất tuyệt vời của nó, nó đã có thể chạy mô hình tham số 13 tỷ cục bộ và mô hình ngôn ngữ lớn tham số 7 tỷ có thể tạo ra 30 mã thông báo mỗi giây.
Tại Hội nghị thượng đỉnh Snapdragon, Blackmagic Design, nhà sản xuất phần mềm chỉnh sửa video nổi tiếng Leonardo da Vinci, cũng đã đưa ra một bức tranh về việc sử dụng Snapdragon X Elite trong AI: đối với Magic Mask tính toán chuyên sâu hỗ trợ AI, Snapdragon X Elite nhanh hơn 1,7 lần so với bộ xử lý Windows 12 lõi cao cấp có GPU tích hợp và Magic Mask chạy trên NPU tích hợp, nhanh gấp 3 lần so với chạy trên cùng một bộ xử lý 12 lõi.
Đằng sau hiệu suất tuyệt vời của điện thoại di động và máy tính xách tay, ngoài hiệu suất chip mạnh mẽ của Qualcomm, nó còn có tín dụng của ngăn xếp phần mềm AI tổng thể của Qualcomm. Ví dụ, tại hội nghị thượng đỉnh này, Qualcomm đã công bố bổ sung hỗ trợ truy cập nhanh ONNX Runtime vào chip Snapdragon và hỗ trợ cho Compute Driver Model (MCDM) của Microsoft.
Trước đây là một khung suy luận do Microsoft đưa ra, hỗ trợ nhiều phụ trợ đang chạy, để các nhà phát triển có thể hiệu quả hơn khi tạo các ứng dụng suy luận tương ứng; đối với việc hỗ trợ MCDM, NPU Qualcomm trong tương lai sẽ hiệu quả và trực tiếp hơn trong hệ thống Windows.
Những nỗ lực của Qualcomm trong hệ sinh thái không chỉ giúp các đối tác nhà cung cấp thiết bị đầu cuối xây dựng các sản phẩm xuất sắc, mà còn thu hút ngày càng nhiều nhà cung cấp phần mềm và nhà phát triển độc lập tham gia vào hệ sinh thái của Qualcomm để thúc đẩy việc triển khai và thúc đẩy các ứng dụng mô hình lớn AI trên nền tảng Qualcomm.
**Qualcomm vẫn tăng tốc **
Kể từ khi khởi động dự án nghiên cứu AI đầu tiên, Qualcomm đã tham gia sâu vào lĩnh vực AI trong hơn mười năm. Nhiều năm tích lũy công nghệ trong các nền tảng di động, cũng như liên tục khám phá các khả năng của AI, cuối cùng đã bùng nổ vào thời điểm mô hình AI hạ cánh.
Theo chu kỳ phát triển chip trong ngành bán dẫn khoảng 3 năm, nền tảng di động Snapdragon 8 thế hệ thứ ba mới ra mắt và Snapdragon X Elite với hiệu năng xuất sắc đã bước vào quá trình phát triển ngay từ khoảng năm 2020, điều này cho thấy sự hiểu biết và nắm bắt sâu sắc của Qualcomm về các thiết bị di động và ngành công nghiệp trí tuệ nhân tạo.
Việc theo đuổi công nghệ tiên tiến này và ý định ban đầu là mang lại trải nghiệm tối ưu cho người dùng thúc đẩy Qualcomm tiếp tục tiến về phía trước. Nó cũng cho phép Qualcomm, công ty đã vươn lên từ kỷ nguyên 3G / 4G với công nghệ truyền thông và nền tảng SoC điện thoại di động, nắm bắt cơ hội hiếm có của các mô hình lớn AI một lần nữa.
Qualcomm như vậy nghiễm nhiên sẽ trở thành lựa chọn hàng đầu cho những người tiêu dùng không còn chỉ tập trung vào hiệu suất xử lý cơ bản của thiết bị di động mà chú ý nhiều hơn đến hiệu suất AI.