"Chờ một chút, chờ một chút, anh muốn bắn thêm PPT tiếp theo!"
Rạng sáng ngày 25/10 theo giờ Bắc Kinh, trong bài phát biểu khai mạc Hội nghị thượng đỉnh Qualcomm Snapdragon 2023, Cristiano Amon, Chủ tịch kiêm Giám đốc điều hành Qualcomm, đã giới thiệu về CPU Snapdragon X Elite Oryon. Trong bài thuyết trình PPT, CPU mới không chỉ làm lu mờ M2 Max và Intel i9-13980HX của Apple, hai bộ vi xử lý mạnh nhất thế giới, mà còn có mức tiêu thụ năng lượng tối đa thấp hơn hai phiên bản trước.
Đồng thời, ngoài việc làm nên tên tuổi cho X Elite ở mảng PC, Qualcomm còn hé lộ vi xử lý Snapdragon 8 Gen 3 ngay trong ngày. Là chip di động mới nhất, Snapdragon 8 Gen 3 không chỉ cải thiện hiệu suất mà còn tối ưu hóa khả năng xử lý AI tổng thể, thậm chí có thể chạy trực tiếp các model với hàng chục tỷ thông số**.
Trong và ngoài thị trường, các CEO và chủ tịch của những gã khổng lồ điện tử tiêu dùng như Microsoft, Meta, Google, HP, Lenovo và Xiaomi đã đứng về phía Qualcomm. Trong số đó, Chủ tịch Tập đoàn Xiaomi Lu Weibing không chỉ phơi bày chiếc flagship Xiaomi 14 sắp ra mắt tại hiện trường, mà còn chính thức xem trước rằng những chiếc xe Xiaomi sẽ được ra mắt vào năm 2024.
Các sản phẩm chip dòng PC mới, chip Snapdragon 8 Gen 3, khiến "AI đầu cuối" được Qualcomm nhấn mạnh trở thành hiện thực trong tầm tay.
**01 Snapdragon X Elite, thẳng đến Apple Intel **
Tâm điểm của toàn bộ khán giả ngày hôm đó không ai khác chính là Snapdragon X Elite.
Để hỗ trợ các tác vụ thông minh tải cao trong tương lai, Qualcomm đã giới thiệu bộ xử lý điện toán mạnh nhất của công ty cho đến nay cho PC: Snapdragon X Elite, với CPU Oryon gây ra trực tiếp cho Intel và Apple.
Được xây dựng cho AI, Snapdragon X Elite ** tích hợp CPU Qualcomm Oryon tùy chỉnh mới, hỗ trợ các mô hình AI tạo ra với hơn 13 tỷ thông số chạy ở phía thiết bị đầu cuối **, xử lý nhanh hơn 4,5 lần so với các sản phẩm cạnh tranh và có thể tạo ra 30 mã thông báo mỗi giây cho 7 tỷ mô hình lớn tham số. Theo Qualcomm, CPU điện toán di động này hoạt động tốt gấp đôi so với đối thủ, chỉ tiêu thụ một phần ba mức tiêu thụ điện năng ở cùng hiệu suất cao nhất.
Snapdragon X Elite có thể tạo 30 mã thông báo mỗi giây cho 7 tỷ mô hình lớn tham số
"Nhanh lên chụp ảnh." Giám đốc điều hành Qualcomm Amon cho biết tại hội nghị thượng đỉnh rằng hiệu suất đơn luồng của CPU Oryon vượt quá M2 Max của Apple và i9-13980HX của Intel, và mức tiêu thụ điện năng hiệu suất cao nhất thấp hơn 30% so với M2 Max và thấp hơn 70% so với i9-13980HX.
Hiệu suất đơn luồng của CPU Oryon vượt qua M2 Max của Apple | Qualcomm
Hiệu suất đơn luồng của CPU Oryon vượt qua i9-13980HX của Intel |
Về hiệu suất đa luồng, **Qualcomm cũng so sánh i7-1355U và i7-1360P của Intel, nói rằng hiệu suất của Snapdragon X Elite có thể cao gấp đôi ** và mức tiêu thụ điện năng hiệu suất cao nhất có thể thấp hơn 68%; Ngoài ra còn có i7-13800H của Intel, tuyên bố vượt quá 60% về hiệu suất và mức tiêu thụ điện năng hiệu suất cao nhất ít hơn 65%. Ngoài ra, Qualcomm cũng tập trung vào việc so sánh M2 của Apple, nhấn mạnh rằng hiệu năng của Snapdragon X Elite vượt trội hơn 50%.
Hiệu suất của Snapdragon X Elite vượt trội hơn Apple M2 50% | Qualcomm
Kedar Kondap, Phó chủ tịch cấp cao kiêm Tổng giám đốc tính toán & chơi game tại Qualcomm Technologies, cho biết: "Snapdragon X Elite đánh dấu một bước nhảy vọt lượng tử trong đổi mới công nghệ điện toán, với CPU Qualcomm Oryon tùy chỉnh mới mang lại hiệu quả năng lượng đáng kinh ngạc cho người tiêu dùng và đưa sự sáng tạo và năng suất lên một cấp độ hoàn toàn mới. AI mặt cuối mạnh mẽ sẽ cho phép đa nhiệm liền mạch và trải nghiệm người dùng trực quan mới, trao quyền cho người tiêu dùng và doanh nghiệp sáng tạo và phát triển."
Hiệu suất Snapdragon X Elite |
Được biết, các nhà sản xuất OEM dự kiến sẽ ra mắt PC được trang bị Snapdragon X Elite vào giữa năm 2024.
**02 Cây kim ngư thảo thế hệ thứ 3 8,1 giây để tạo hình ảnh khuếch tán ổn định **
Tại hội nghị thượng đỉnh, Qualcomm cũng đã phát hành nền tảng di động đầu tiên được xây dựng cẩn thận cho AI thế hệ: Snapdragon 8 Gen 3.
So với thế hệ trước, Snapdragon 8 thế hệ thứ ba có hiệu năng CPU cao hơn 30%, hiệu suất GPU cao hơn 25% và hiệu suất NPU cao hơn 25%, hỗ trợ chạy các mô hình AI tạo ra với 10 tỷ thông số. **Được cho là chạy Stable Diffusion trên các thiết bị điện thoại thông minh, chỉ mất chưa đầy 1 giây để tạo ra hình ảnh với văn bản **.
Hiệu suất Snapdragon 8 thế hệ thứ 3 | Qualcomm
Chris Patrick, phó chủ tịch cấp cao và tổng giám đốc điện thoại di động tại Qualcomm Technologies, cho biết: "Nền tảng này sẽ mở ra một kỷ nguyên mới của AI tạo ra - trao quyền cho người dùng tạo nội dung độc đáo, giúp tăng năng suất và cho phép các trường hợp sử dụng đột phá khác".
** Dựa trên bản demo trực tiếp, Snapdragon 8 Gen 3 sẽ hỗ trợ một số công cụ camera AI tiện dụng và sáng tạo **, bao gồm các tính năng như xóa đối tượng khỏi video, mở rộng vùng ảnh và tạo nền ảo.
Là công ty hàng đầu trong SoC điện thoại thông minh hàng đầu Android, có thông tin rằng Snapdragon 8 thế hệ thứ ba sẽ được áp dụng rộng rãi trên các thiết bị đầu cuối của các OEM và thương hiệu điện thoại thông minh toàn cầu, bao gồm Asus, Honor, iQOO, Meizu, NIO, Nubia, OnePlus, OPPO, Realme, Redmi, Red Devil, Sony, vivo, Xiaomi và ZTE.
Chủ tịch Tập đoàn Xiaomi Lu Weibing cũng xuất hiện tại Hội nghị thượng đỉnh Hawaii để trình diễn việc phát hành sắp tới của điện thoại di động Mi 14 được trang bị Snapdragon 8 thế hệ thứ ba, cũng như "tăng trưởng chiến lược AI dài hạn" của Xiaomi. Theo đó, dòng Xiaomi 14 sẽ ra mắt thế giới nền tảng di động Snapdragon 8 thế hệ thứ ba.
Chủ tịch Xiaomi Lu Weibing tại Hội nghị thượng đỉnh Hawaii Snapdragon | Qualcomm
Ngoài Xiaomi, theo giám đốc điều hành của các nhà sản xuất khác nhau, NIO và Qualcomm dựa trên nền tảng Snapdragon trong xe hơi và điện thoại di động hợp tác chuyên sâu, điện thoại di động thể thao điện tử Red Devil sẽ được trang bị thế hệ thứ ba của Snapdragon 8, realme GT5 Pro sắp tới cũng sẽ được trang bị chip hàng đầu này, vivo và iQOO sẽ phát hành các sản phẩm chủ lực được trang bị thế hệ thứ ba của Snapdragon 8, ZTE dựa trên thế hệ thứ ba của Snapdragon 8 điện thoại di động hàng đầu nubia sẽ sớm có mặt.
Hiệu suất Snapdragon 8 thế hệ thứ 3 | Qualcomm
Theo Qualcomm, các thiết bị đầu cuối hàng đầu của Android được trang bị Snapdragon 8 thế hệ thứ ba dự kiến sẽ có mặt trong vài tuần tới.
03 Kỷ nguyên của "thiết bị đầu cuối AI"
Thúc đẩy AI tạo ra trong các danh mục thiết bị đầu cuối khác nhau, bao gồm một loạt các thiết bị điện tử tiêu dùng, đã trở thành mục tiêu lớn nhất của Qualcomm trong năm nay.
"Chúng ta đang bước vào kỷ nguyên của AI và AI tạo ra mặt cuối là rất quan trọng để tạo ra những trải nghiệm mạnh mẽ, nhanh chóng, được cá nhân hóa, hiệu quả, an toàn và được tối ưu hóa cao. **", CEO Qualcomm Amon Anmeng cho biết.
Snapdragon X Elite, Snapdragon 8 thế hệ thứ ba, được công bố tại Hội nghị thượng đỉnh Snapdragon, được cho là có thể xử lý các tác vụ AI tạo ra ở tốc độ cực cao, ví dụ, trợ lý trò chuyện phía thiết bị đầu cuối cho PC chạy Windows 11 có thể xử lý 30 mã thông báo mỗi giây và chỉ mất chưa đầy một giây để tạo hình ảnh trên điện thoại thông minh bằng Khuếch tán ổn định.
Từ văn bản đến hình ảnh, hình ảnh đến video và văn bản đến 3D, sự ra đời của AI đa phương thức đang thay đổi cách con người tương tác với các thiết bị, theo Ziad Asghar, phó chủ tịch quản lý sản phẩm cấp cao tại Qualcomm, "Hoạt động hoàn toàn trên các thiết bị cuối, có nghĩa là bạn có thể bay trên máy bay và vẫn sử dụng AI tạo ra." Và, "đây chắc chắn chỉ là khởi đầu của cuộc cách mạng này."
Theo Asghar, "AI tạo ra trong đám mây phải đối mặt với nhiều thách thức có thể được giải quyết bằng cách xử lý trên thiết bị." Ví dụ, một số công ty đang tích hợp mã độc quyền vào các công cụ GPT để phát hiện lỗi mã. Trong tương lai, PC có thể sử dụng thông tin mà thiết bị đã biết, chẳng hạn như trạng thái người dùng, tùy chọn, lịch và tuổi, kết hợp với các truy vấn AI tạo ra để có trải nghiệm AI tạo tốt hơn "vượt trội hơn nhiều so với đám mây".
Hơn nữa, so với lối chơi tương tác nơi mọi người chuyển thông tin cá nhân cho các chatbot khác nhau, điểm bán hàng lớn nhất của AI chạy trên thiết bị là: quyền riêng tư và không cần phải chuyển thông tin ngữ cảnh riêng tư lên đám mây để xử lý. Ngoài ra, có lợi ích của tính tức thì, đó là bạn không phải đợi thông tin trở về từ đám mây.
Nhưng có một vấn đề quan trọng khác khi chạy AI trong thiết bị đầu cuối, điều gì sẽ xảy ra nếu suy luận mô hình đòi hỏi nhiều tính toán?
Theo các giám đốc điều hành Qualcomm, số dấu phẩy động 16 bit hoặc 32 bit thường được sử dụng khi đào tạo các mô hình ngôn ngữ lớn trên đám mây, dẫn đến tính toán chuyên sâu cho mỗi suy luận mô hình. Thay vào đó, họ đã tập trung vào việc nén các mô hình, định lượng và cắt tỉa, chẳng hạn như chỉ sử dụng 4 bit, tiết kiệm năng lượng và có thể thực hiện xử lý AI đồng thời hơn trên các thiết bị, nói rằng "sự phát triển của các mô hình ngôn ngữ lớn trong vài tháng qua đã chứng minh các chiến lược làm cho các mô hình nhỏ hơn bằng cách định lượng chúng."
Ngoài ra, theo thời gian, mọi người tiếp tục cải thiện thuật toán và mô hình bắt đầu nhỏ hơn. Một cách tiếp cận khác mà mọi người sẽ thực hiện là "mô hình miền cụ thể", nơi các mô hình được đào tạo cho các ứng dụng cụ thể, "các mô hình có thể trở nên rất nhỏ và có độ chính xác rất cao".
"Dựa trên nhiều năm nghiên cứu và phát triển AI của Qualcomm, bao gồm sự kết hợp giữa CPU, NPU và GPU với hiệu suất tuyệt vời trong thiết bị đầu cuối và hỗ trợ hoạt động cục bộ của nhiều mô hình hàng đầu, chúng tôi có thể mang lại lợi ích của AI tạo ra cho người dùng trên toàn thế giới và cho các loại cuối khác nhau", Amon nói.
Đồng thời, để cho phép các thiết bị đầu cuối Snapdragon sử dụng Android, Windows và các hệ điều hành khác khám phá lẫn nhau và đạt được sự hợp tác liền mạch giữa nhiều thiết bị đầu cuối, Qualcomm đã ra mắt công nghệ đa nền tảng Snapdragon Seamless tại Hội nghị thượng đỉnh Snapdragon.
Công nghệ đa nền tảng Snapdragon liền mạch |
Theo Khảo sát người tiêu dùng được kết nối của Deloitte, mỗi hộ gia đình Mỹ hiện có trung bình 21 thiết bị đầu cuối kỹ thuật số, nhưng việc chuyển thông tin giữa các thiết bị đầu cuối khác nhau, đặc biệt là giữa các thiết bị đầu cuối của các nhà sản xuất khác nhau, thường không suôn sẻ. Điều này sẽ hạn chế sự lựa chọn của người tiêu dùng và dẫn đến hiệu ứng khóa, nơi người tiêu dùng chỉ phải mua sản phẩm từ cùng một nhà sản xuất để làm việc cùng nhau giữa các thiết bị đầu cuối của họ.
Với Snapdragon Seamless, nhiều thiết bị đầu cuối có thể hoạt động như thể chúng là một "đơn vị duy nhất", ví dụ: chuột và bàn phím có thể được sử dụng liền mạch trên PC, điện thoại di động và máy tính bảng; Các tệp và cửa sổ có thể được kéo và thả giữa các loại thiết bị đầu cuối khác nhau; Tai nghe có thể được chuyển đổi thông minh theo mức độ ưu tiên của nguồn âm thanh; XR cung cấp chức năng mở rộng cho điện thoại thông minh.
Được biết, Snapdragon Seamless sẽ mở rộng sang các nền tảng XR, ô tô và IoT trong tương lai. Các công ty bao gồm Microsoft, Android, Xiaomi, Asus, Honor, Lenovo và OPPO đang làm việc với Qualcomm để áp dụng Snapdragon Seamless, một công nghệ sẽ cập bến các nền tảng thiết bị đầu cuối được phát hành trên toàn thế giới vào đầu năm nay.
Từ điện thoại thông minh, thiết bị thực tế tăng cường, ô tô đến máy tính cá nhân, sự thâm nhập của AI vào một loạt các thiết bị đầu cuối thông qua chip đã bắt đầu. Qualcomm là bước đầu tiên và quan trọng nhất trong việc quảng bá "AI đầu cuối" cho tất cả người tiêu dùng.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Đấm Apple, đá chip Intel, Qualcomm là tương lai của AI
Nguồn gốc: Geek Park
"Chờ một chút, chờ một chút, anh muốn bắn thêm PPT tiếp theo!"
Rạng sáng ngày 25/10 theo giờ Bắc Kinh, trong bài phát biểu khai mạc Hội nghị thượng đỉnh Qualcomm Snapdragon 2023, Cristiano Amon, Chủ tịch kiêm Giám đốc điều hành Qualcomm, đã giới thiệu về CPU Snapdragon X Elite Oryon. Trong bài thuyết trình PPT, CPU mới không chỉ làm lu mờ M2 Max và Intel i9-13980HX của Apple, hai bộ vi xử lý mạnh nhất thế giới, mà còn có mức tiêu thụ năng lượng tối đa thấp hơn hai phiên bản trước.
Đồng thời, ngoài việc làm nên tên tuổi cho X Elite ở mảng PC, Qualcomm còn hé lộ vi xử lý Snapdragon 8 Gen 3 ngay trong ngày. Là chip di động mới nhất, Snapdragon 8 Gen 3 không chỉ cải thiện hiệu suất mà còn tối ưu hóa khả năng xử lý AI tổng thể, thậm chí có thể chạy trực tiếp các model với hàng chục tỷ thông số**.
Trong và ngoài thị trường, các CEO và chủ tịch của những gã khổng lồ điện tử tiêu dùng như Microsoft, Meta, Google, HP, Lenovo và Xiaomi đã đứng về phía Qualcomm. Trong số đó, Chủ tịch Tập đoàn Xiaomi Lu Weibing không chỉ phơi bày chiếc flagship Xiaomi 14 sắp ra mắt tại hiện trường, mà còn chính thức xem trước rằng những chiếc xe Xiaomi sẽ được ra mắt vào năm 2024.
Các sản phẩm chip dòng PC mới, chip Snapdragon 8 Gen 3, khiến "AI đầu cuối" được Qualcomm nhấn mạnh trở thành hiện thực trong tầm tay.
**01 Snapdragon X Elite, thẳng đến Apple Intel **
Tâm điểm của toàn bộ khán giả ngày hôm đó không ai khác chính là Snapdragon X Elite.
Để hỗ trợ các tác vụ thông minh tải cao trong tương lai, Qualcomm đã giới thiệu bộ xử lý điện toán mạnh nhất của công ty cho đến nay cho PC: Snapdragon X Elite, với CPU Oryon gây ra trực tiếp cho Intel và Apple.
Được xây dựng cho AI, Snapdragon X Elite ** tích hợp CPU Qualcomm Oryon tùy chỉnh mới, hỗ trợ các mô hình AI tạo ra với hơn 13 tỷ thông số chạy ở phía thiết bị đầu cuối **, xử lý nhanh hơn 4,5 lần so với các sản phẩm cạnh tranh và có thể tạo ra 30 mã thông báo mỗi giây cho 7 tỷ mô hình lớn tham số. Theo Qualcomm, CPU điện toán di động này hoạt động tốt gấp đôi so với đối thủ, chỉ tiêu thụ một phần ba mức tiêu thụ điện năng ở cùng hiệu suất cao nhất.
"Nhanh lên chụp ảnh." Giám đốc điều hành Qualcomm Amon cho biết tại hội nghị thượng đỉnh rằng hiệu suất đơn luồng của CPU Oryon vượt quá M2 Max của Apple và i9-13980HX của Intel, và mức tiêu thụ điện năng hiệu suất cao nhất thấp hơn 30% so với M2 Max và thấp hơn 70% so với i9-13980HX.
Về hiệu suất đa luồng, **Qualcomm cũng so sánh i7-1355U và i7-1360P của Intel, nói rằng hiệu suất của Snapdragon X Elite có thể cao gấp đôi ** và mức tiêu thụ điện năng hiệu suất cao nhất có thể thấp hơn 68%; Ngoài ra còn có i7-13800H của Intel, tuyên bố vượt quá 60% về hiệu suất và mức tiêu thụ điện năng hiệu suất cao nhất ít hơn 65%. Ngoài ra, Qualcomm cũng tập trung vào việc so sánh M2 của Apple, nhấn mạnh rằng hiệu năng của Snapdragon X Elite vượt trội hơn 50%.
Kedar Kondap, Phó chủ tịch cấp cao kiêm Tổng giám đốc tính toán & chơi game tại Qualcomm Technologies, cho biết: "Snapdragon X Elite đánh dấu một bước nhảy vọt lượng tử trong đổi mới công nghệ điện toán, với CPU Qualcomm Oryon tùy chỉnh mới mang lại hiệu quả năng lượng đáng kinh ngạc cho người tiêu dùng và đưa sự sáng tạo và năng suất lên một cấp độ hoàn toàn mới. AI mặt cuối mạnh mẽ sẽ cho phép đa nhiệm liền mạch và trải nghiệm người dùng trực quan mới, trao quyền cho người tiêu dùng và doanh nghiệp sáng tạo và phát triển."
Được biết, các nhà sản xuất OEM dự kiến sẽ ra mắt PC được trang bị Snapdragon X Elite vào giữa năm 2024.
**02 Cây kim ngư thảo thế hệ thứ 3 8,1 giây để tạo hình ảnh khuếch tán ổn định **
Tại hội nghị thượng đỉnh, Qualcomm cũng đã phát hành nền tảng di động đầu tiên được xây dựng cẩn thận cho AI thế hệ: Snapdragon 8 Gen 3.
So với thế hệ trước, Snapdragon 8 thế hệ thứ ba có hiệu năng CPU cao hơn 30%, hiệu suất GPU cao hơn 25% và hiệu suất NPU cao hơn 25%, hỗ trợ chạy các mô hình AI tạo ra với 10 tỷ thông số. **Được cho là chạy Stable Diffusion trên các thiết bị điện thoại thông minh, chỉ mất chưa đầy 1 giây để tạo ra hình ảnh với văn bản **.
Chris Patrick, phó chủ tịch cấp cao và tổng giám đốc điện thoại di động tại Qualcomm Technologies, cho biết: "Nền tảng này sẽ mở ra một kỷ nguyên mới của AI tạo ra - trao quyền cho người dùng tạo nội dung độc đáo, giúp tăng năng suất và cho phép các trường hợp sử dụng đột phá khác".
** Dựa trên bản demo trực tiếp, Snapdragon 8 Gen 3 sẽ hỗ trợ một số công cụ camera AI tiện dụng và sáng tạo **, bao gồm các tính năng như xóa đối tượng khỏi video, mở rộng vùng ảnh và tạo nền ảo.
Là công ty hàng đầu trong SoC điện thoại thông minh hàng đầu Android, có thông tin rằng Snapdragon 8 thế hệ thứ ba sẽ được áp dụng rộng rãi trên các thiết bị đầu cuối của các OEM và thương hiệu điện thoại thông minh toàn cầu, bao gồm Asus, Honor, iQOO, Meizu, NIO, Nubia, OnePlus, OPPO, Realme, Redmi, Red Devil, Sony, vivo, Xiaomi và ZTE.
Chủ tịch Tập đoàn Xiaomi Lu Weibing cũng xuất hiện tại Hội nghị thượng đỉnh Hawaii để trình diễn việc phát hành sắp tới của điện thoại di động Mi 14 được trang bị Snapdragon 8 thế hệ thứ ba, cũng như "tăng trưởng chiến lược AI dài hạn" của Xiaomi. Theo đó, dòng Xiaomi 14 sẽ ra mắt thế giới nền tảng di động Snapdragon 8 thế hệ thứ ba.
Ngoài Xiaomi, theo giám đốc điều hành của các nhà sản xuất khác nhau, NIO và Qualcomm dựa trên nền tảng Snapdragon trong xe hơi và điện thoại di động hợp tác chuyên sâu, điện thoại di động thể thao điện tử Red Devil sẽ được trang bị thế hệ thứ ba của Snapdragon 8, realme GT5 Pro sắp tới cũng sẽ được trang bị chip hàng đầu này, vivo và iQOO sẽ phát hành các sản phẩm chủ lực được trang bị thế hệ thứ ba của Snapdragon 8, ZTE dựa trên thế hệ thứ ba của Snapdragon 8 điện thoại di động hàng đầu nubia sẽ sớm có mặt.
Theo Qualcomm, các thiết bị đầu cuối hàng đầu của Android được trang bị Snapdragon 8 thế hệ thứ ba dự kiến sẽ có mặt trong vài tuần tới.
03 Kỷ nguyên của "thiết bị đầu cuối AI"
Thúc đẩy AI tạo ra trong các danh mục thiết bị đầu cuối khác nhau, bao gồm một loạt các thiết bị điện tử tiêu dùng, đã trở thành mục tiêu lớn nhất của Qualcomm trong năm nay.
"Chúng ta đang bước vào kỷ nguyên của AI và AI tạo ra mặt cuối là rất quan trọng để tạo ra những trải nghiệm mạnh mẽ, nhanh chóng, được cá nhân hóa, hiệu quả, an toàn và được tối ưu hóa cao. **", CEO Qualcomm Amon Anmeng cho biết.
Snapdragon X Elite, Snapdragon 8 thế hệ thứ ba, được công bố tại Hội nghị thượng đỉnh Snapdragon, được cho là có thể xử lý các tác vụ AI tạo ra ở tốc độ cực cao, ví dụ, trợ lý trò chuyện phía thiết bị đầu cuối cho PC chạy Windows 11 có thể xử lý 30 mã thông báo mỗi giây và chỉ mất chưa đầy một giây để tạo hình ảnh trên điện thoại thông minh bằng Khuếch tán ổn định.
Từ văn bản đến hình ảnh, hình ảnh đến video và văn bản đến 3D, sự ra đời của AI đa phương thức đang thay đổi cách con người tương tác với các thiết bị, theo Ziad Asghar, phó chủ tịch quản lý sản phẩm cấp cao tại Qualcomm, "Hoạt động hoàn toàn trên các thiết bị cuối, có nghĩa là bạn có thể bay trên máy bay và vẫn sử dụng AI tạo ra." Và, "đây chắc chắn chỉ là khởi đầu của cuộc cách mạng này."
Theo Asghar, "AI tạo ra trong đám mây phải đối mặt với nhiều thách thức có thể được giải quyết bằng cách xử lý trên thiết bị." Ví dụ, một số công ty đang tích hợp mã độc quyền vào các công cụ GPT để phát hiện lỗi mã. Trong tương lai, PC có thể sử dụng thông tin mà thiết bị đã biết, chẳng hạn như trạng thái người dùng, tùy chọn, lịch và tuổi, kết hợp với các truy vấn AI tạo ra để có trải nghiệm AI tạo tốt hơn "vượt trội hơn nhiều so với đám mây".
Hơn nữa, so với lối chơi tương tác nơi mọi người chuyển thông tin cá nhân cho các chatbot khác nhau, điểm bán hàng lớn nhất của AI chạy trên thiết bị là: quyền riêng tư và không cần phải chuyển thông tin ngữ cảnh riêng tư lên đám mây để xử lý. Ngoài ra, có lợi ích của tính tức thì, đó là bạn không phải đợi thông tin trở về từ đám mây.
Nhưng có một vấn đề quan trọng khác khi chạy AI trong thiết bị đầu cuối, điều gì sẽ xảy ra nếu suy luận mô hình đòi hỏi nhiều tính toán?
Theo các giám đốc điều hành Qualcomm, số dấu phẩy động 16 bit hoặc 32 bit thường được sử dụng khi đào tạo các mô hình ngôn ngữ lớn trên đám mây, dẫn đến tính toán chuyên sâu cho mỗi suy luận mô hình. Thay vào đó, họ đã tập trung vào việc nén các mô hình, định lượng và cắt tỉa, chẳng hạn như chỉ sử dụng 4 bit, tiết kiệm năng lượng và có thể thực hiện xử lý AI đồng thời hơn trên các thiết bị, nói rằng "sự phát triển của các mô hình ngôn ngữ lớn trong vài tháng qua đã chứng minh các chiến lược làm cho các mô hình nhỏ hơn bằng cách định lượng chúng."
Ngoài ra, theo thời gian, mọi người tiếp tục cải thiện thuật toán và mô hình bắt đầu nhỏ hơn. Một cách tiếp cận khác mà mọi người sẽ thực hiện là "mô hình miền cụ thể", nơi các mô hình được đào tạo cho các ứng dụng cụ thể, "các mô hình có thể trở nên rất nhỏ và có độ chính xác rất cao".
"Dựa trên nhiều năm nghiên cứu và phát triển AI của Qualcomm, bao gồm sự kết hợp giữa CPU, NPU và GPU với hiệu suất tuyệt vời trong thiết bị đầu cuối và hỗ trợ hoạt động cục bộ của nhiều mô hình hàng đầu, chúng tôi có thể mang lại lợi ích của AI tạo ra cho người dùng trên toàn thế giới và cho các loại cuối khác nhau", Amon nói.
Đồng thời, để cho phép các thiết bị đầu cuối Snapdragon sử dụng Android, Windows và các hệ điều hành khác khám phá lẫn nhau và đạt được sự hợp tác liền mạch giữa nhiều thiết bị đầu cuối, Qualcomm đã ra mắt công nghệ đa nền tảng Snapdragon Seamless tại Hội nghị thượng đỉnh Snapdragon.
Theo Khảo sát người tiêu dùng được kết nối của Deloitte, mỗi hộ gia đình Mỹ hiện có trung bình 21 thiết bị đầu cuối kỹ thuật số, nhưng việc chuyển thông tin giữa các thiết bị đầu cuối khác nhau, đặc biệt là giữa các thiết bị đầu cuối của các nhà sản xuất khác nhau, thường không suôn sẻ. Điều này sẽ hạn chế sự lựa chọn của người tiêu dùng và dẫn đến hiệu ứng khóa, nơi người tiêu dùng chỉ phải mua sản phẩm từ cùng một nhà sản xuất để làm việc cùng nhau giữa các thiết bị đầu cuối của họ.
Với Snapdragon Seamless, nhiều thiết bị đầu cuối có thể hoạt động như thể chúng là một "đơn vị duy nhất", ví dụ: chuột và bàn phím có thể được sử dụng liền mạch trên PC, điện thoại di động và máy tính bảng; Các tệp và cửa sổ có thể được kéo và thả giữa các loại thiết bị đầu cuối khác nhau; Tai nghe có thể được chuyển đổi thông minh theo mức độ ưu tiên của nguồn âm thanh; XR cung cấp chức năng mở rộng cho điện thoại thông minh.
Được biết, Snapdragon Seamless sẽ mở rộng sang các nền tảng XR, ô tô và IoT trong tương lai. Các công ty bao gồm Microsoft, Android, Xiaomi, Asus, Honor, Lenovo và OPPO đang làm việc với Qualcomm để áp dụng Snapdragon Seamless, một công nghệ sẽ cập bến các nền tảng thiết bị đầu cuối được phát hành trên toàn thế giới vào đầu năm nay.
Từ điện thoại thông minh, thiết bị thực tế tăng cường, ô tô đến máy tính cá nhân, sự thâm nhập của AI vào một loạt các thiết bị đầu cuối thông qua chip đã bắt đầu. Qualcomm là bước đầu tiên và quan trọng nhất trong việc quảng bá "AI đầu cuối" cho tất cả người tiêu dùng.