Các nhà sản xuất điện thoại di động, những người cần khẩn trương tìm một bánh đà mới, đang để mắt đến các mẫu lớn.
Tại hội nghị nhà phát triển vào đầu tháng 8, Huawei đã thông báo rằng họ sẽ tích hợp Xiaoyi, một trợ lý AI trong HarmonyOS 4, vào mô hình lớn và mời họ thử nghiệm vào cuối tháng Tám. Xiaomi cũng đã mở thử nghiệm lời mời của trợ lý AI Xiaoai để truy cập vào mô hình lớn cùng một lúc. OPPO và vivo theo sau, cả hai đều bắt đầu thử nghiệm với các mẫu điện thoại di động lớn vào tháng 11.
"Nhồi nhét các mô hình lớn vào điện thoại di động" không phải là một điều mới trong ngành,Chưa kể vivo, đã được hâm nóng mạnh mẽ kể từ giữa tháng Mười,Rongmi O ba đã tiết lộ tin tức liên quan tại cuộc họp báo được tổ chức năm nay。 Quan điểm chung trong ngành là phần cứng của đường đua điện thoại thông minh gần như không thể triển khai và hầu hết các mô hình lớn chạy trên đám mây chỉ là một biến không có phần cứng.
Cần lưu ý rằng triển khai phía thiết bị cũng là một xu hướng công nghiệp cho các bản nhạc mô hình lớn. Lấy ChatGPT làm ví dụ, như một đại diện điển hình của mô hình lớn phía đám mây, việc đào tạo và suy luận của nó chạy trên Azure của Microsoft và người dùng có được kết quả thông qua trình duyệt hoặc ứng dụng. Giữa đầu vào-đầu ra và qua lại, không chỉ có độ trễ ảnh hưởng đến trải nghiệm người dùng mà còn cả chi phí đám mây như tiêu thụ năng lượng và sức mạnh tính toán.
Từ góc độ của các kịch bản và nhu cầu thực tế, nhiều nhu cầu có thể được đáp ứng bởi các thiết bị biên, đặc biệt là các thiết bị đầu cuối được sử dụng rộng rãi như điện thoại di động, PC và các phương tiện năng lượng mới.
Do đó, việc triển khai các mô hình lớn ở phía cuối đã dần trở thành sự đồng thuận, không chỉ các nhà sản xuất điện thoại di động đã nỗ lực đào tạo các mô hình, mà cả Lenovo trên đường đua PC và Qualcomm trên đường đua chip đã phát hành các giải pháp liên quan cho AI phía cuối một thời gian trước đây. Trong đó, Qualcomm Snapdragon 8 Gen3 và MediaTek Dimensity 9300 vừa ra mắt, việc cải thiện hiệu suất AI của chúng có thể nói là nền tảng của model lớn trên điện thoại di động.
Nhu cầu của ngành công nghiệp và điều kiện phần cứng đã được đáp ứng, và mô hình lớn cuối cùng có thể vào điện thoại di động. Điều khá bất ngờ là nhà sản xuất điện thoại di động đầu tiên đưa ra một "sản phẩm hoàn chỉnh" là vivo.
**Tình trạng của mẫu vivo lớn là gì? **
Vào ngày 1 tháng 11, vivo đã tổ chức một hội nghị nhà phát triển, tại đó họ đã phát hành ma trận mô hình lớn tự phát triển "BlueLM", bao gồm 1 tỷ, 10 tỷ, 100 tỷ và các thang đo thông số khác nhau. Đồng thời, nó cũng phát hành OriginOS 4, một hệ điều hành tự phát triển phù hợp với mô hình lớn của nó.
Trước "miền đất hứa" của những người mẫu lớn, sự háo hức của vivo gần như được viết lên trên môi.
Theo dữ liệu mới nhất do Canalys, một cơ quan nghiên cứu thị trường công bố, vào ngày 26/10, các lô hàng và lô hàng của vivo đã giảm, và thứ hạng cũng giảm. vivo rất cần các mô hình lớn và OriginOS 4 để lật ngược tình thế, và không có gì ngạc nhiên khi nó sẽ là người đầu tiên "mở sách".
Và so với model lớn, khoảng thời gian cập nhật của OriginOS 4 được vivo ra mắt lần này hơi yếu. Trong cuộc thảo luận về phạm vi công cộng, không chỉ việc lặp lại card đồ họa ảo, không gian tính toán không đồng nhất và nhẹ không như mong đợi, mà cả các mô-đun như thông báo nguyên tử, khá lớn giữa những người dùng vivo, cũng chưa được nâng cấp. Nói cách khác, mô hình lớn là nhân vật chính của hội nghị này.
Từ góc độ mô hình kinh doanh, lộ trình của vivo tại buổi họp báo lần này tương tự như các công ty khác trong ngành trước đây, với trợ lý trí tuệ nhân tạo là nhà mạng, áp dụng phương thức triển khai lai phía thiết bị + phía đám mây, trong đó mô hình lớn phía thiết bị, là trò chơi chính, thể hiện các đặc điểm rõ ràng của nội địa hóa và nhẹ.
Mục đích của việc này là rõ ràng, mức tiêu thụ điện năng và sức mạnh tính toán được cung cấp bởi thế giới nhỏ của điện thoại di động không giống như trong phòng máy tính. Đó chỉ là cách kết hợp khả năng mô hình với chiều sâu của điện thoại di động đã trở thành "bí quyết" mà các nhà sản xuất điện thoại di động cần khẩn trương để vượt qua.
Về vấn đề này, giải pháp của vivo là ra mắt mô hình đặc tả đa thông số, trong đó 1 tỷ thông số kỹ thuật chủ yếu dành cho kịch bản văn bản và 7 tỷ thông số kỹ thuật cho đối thoại tự nhiên và câu hỏi và trả lời kiến thức tele là những điểm nổi bật của triển khai phía thiết bị. Trong phần giới thiệu chính thức, 1 tỷ thông số kỹ thuật được định hướng riêng cho phía thiết bị và 7 tỷ thông số kỹ thuật được thiết lập là mục đích kép cho thiết bị và đám mây, và tất cả chúng đã được triển khai trên đám mây kể từ 70 tỷ, điều này cũng phản ánh ý tưởng ma trận của vivo về "hãy để Chúa trở về với Chúa và Caesar trở lại với Caesar" trong sự hợp tác giữa thiết bị và đám mây.
Điều này cũng giống như hội nghị nhà phát triển I / O của Google vào tháng 5 năm nay, khi Google phát hành một mô hình lớn PaLM2 với bốn thông số kỹ thuật tham số, trong đó mô hình tham số nhỏ có thể xử lý 20 mã thông báo mỗi giây ở trạng thái ngoại tuyến, phù hợp để sử dụng ngoại tuyến các thiết bị đầu cuối.
Nếu bạn cho rằng vivo đang "ngoáy răng người ta" thì quá khắc nghiệt. Trên thực tế, vivo đã bắt đầu thành lập một nhóm AI nội bộ vào đầu năm 2017 và ngày nay, Viện nghiên cứu AI vivo có hơn 1.000 nhà nghiên cứu.
Mặc dù lượng mưa kỹ thuật của nó thường kém hơn so với tiếng vang đầu tiên như Ali và Baidu, sự tồn tại của cộng đồng nguồn mở cũng cho phép những người chơi tham gia thị trường muộn hơn một chút để nhanh chóng bắt kịp với đội quân lớn. Viện nghiên cứu đồ thị tri thức do vivo thành lập vào năm 2018 cũng có thể tăng cường việc thiếu dữ liệu đào tạo mà nó có thể gặp phải với tư cách là một nhà sản xuất điện thoại di động ở một mức độ nhất định.
Về khả năng mô hình, vivo đã đưa ra một phiếu trả lời tốt trong thời gian khởi động. Được biết, BlueLM đã giành được vị trí đầu tiên trong hạng mục "mô hình truy cập hạn chế" trong bộ đánh giá của bên thứ ba C-của mô hình lớn Trung Quốc. Theo thông báo chính thức của mình, BlueLM là mẫu lớn 7B đầu tiên trong ngành.
Tuy nhiên, có không ít mô hình đạt điểm cao trong đánh giá nhưng có hiệu suất thực tế không đạt yêu cầu, và một số người trong ngành cho rằng danh sách này đã bị "gạt đi" trong khoảng thời gian qua, chỉ có thể thể hiện khả năng "đặt câu hỏi" của mô hình và không thể phản ánh khả năng suy luận, an toàn và khả năng thích ứng. Từ quan điểm này, rõ ràng kết quả kinh doanh của vivo cần nhiều thử nghiệm thực tế hơn.
Hơn nữa, các khả năng mô hình đám mây hiện tại của vivo, chẳng hạn như sơ đồ và tương tác Wensheng, đã không nhảy ra khỏi cái bẫy của các mô hình lớn và tính mới bị hạn chế. Hơn nữa, khả năng mô hình phía thiết bị của nó như một trò chơi chính vẫn đang trong giai đoạn thử nghiệm và việc hiển thị các khả năng phía cuối chắc chắn bị hạn chế bởi phần cứng điện thoại di động.
Chúng tôi được biết rằng nhiều người dùng được mời tham gia thử nghiệm nội bộ của Blue Heart đang sử dụng điện thoại hàng đầu do X90 Pro đại diện và các mẫu này cũng cao nhất trong lịch trình thích ứng beta công khai cho các ứng dụng mô hình quy mô lớn do vivo phát hành.
Vui lòng nhập sơ đồ để nói
Không còn nghi ngờ gì nữa, các mô hình lớn đang trở thành chiến trường thứ hai để các nhà sản xuất điện thoại di động mở ra cao cấp, và chúng cũng là một biến số quan trọng để hồi sinh người dùng và kích hoạt IoT. Mặc dù vậy, vẫn còn nhiều biến số trong ý định của vivo nhằm tăng giá trị của các sản phẩm cao cấp bằng cách dựa vào các mẫu lớn
Trong phân tích cuối cùng, sự ra mắt của mô hình lớn không chỉ là nền tảng mới của phân khúc cao cấp của vivo, mà còn là nỗ lực kéo máy móc mới và các sản phẩm cao cấp.
Các mô hình cấp thấp đương nhiên khó đối phó với cuộc chiến cao cấp này. Lấy mẫu cơ bản Y100 được vivo phát hành trước buổi họp báo này làm ví dụ, đây là một trong những mẫu máy mới nhất trong kế hoạch thích ứng nói trên, và đằng sau động thái "đâm sau" tương tự như vậy là "bàn tính nhỏ" của vivo hy vọng sẽ trở lại ngôi vương với các sản phẩm cao cấp.
Mặc dù vậy, việc ra mắt các mẫu lớn vẫn không phải là điểm cộng cho các sản phẩm cao cấp của vivo.
Wang Yang (bút danh), một doanh nhân cộng đồng mã nguồn mở của mô hình lớn phía thiết bị, nói với Photon Planet rằng khả năng của mô hình lớn ở phía thiết bị nằm ở hiệu suất AI do NPU (bộ xử lý được thiết kế đặc biệt cho điện toán mạng thần kinh sâu) mang lại. Tuy nhiên, các mô hình trước đây của in vivo, nó không chú ý đến khả năng NPU, vì vậy có khả năng các mẫu cũ sẽ khó chạy trơn tru các mẫu lớn.
Đối với bản phát hành sắp tới, dòng vivo X100 model mới được trang bị chip hàng đầu MediaTek Dimensity 9300 và bộ xử lý AI thế hệ mới có thể sử dụng khả năng mô hình một cách mượt mà, nhưng trong trường hợp đã có các ứng dụng mô hình lớn như Wenxin Yiyan và iFLYTEK Xinghuo trên thị trường, không gian còn lại cho điện thoại di động không lớn như tưởng tượng. So với khả năng, có lẽ lối chơi được vivo thể hiện lần này đáng để nghiên cứu chuyên sâu hơn.
** Làm cho điện thoại của bạn thông minh hơn? **
Kevin Scott, CTO của Microsoft, người đã thúc đẩy Microsoft trở thành nhà đầu tư thiên thần trong OpenAI, đã công khai tuyên bố rằng bản thân mô hình này không phải là một sản phẩm, mà là một cơ sở hạ tầng. Hàm ý là sau khi đào tạo tinh chỉnh cơ sở mô hình, việc thăm dò sản xuất là cốt lõi của "tinh thần kinh doanh thứ hai" của nhiều người chơi.
Việc "tái sản xuất" các mô hình lớn trên điện thoại di động là một vấn đề tất nhiên, nhưng các mô hình lớn được triển khai trên điện thoại di động vẫn cần phải được sản xuất thêm. Đánh giá từ thông tin được tiết lộ cho đến nay, vivo sẽ nhận ra khả năng mô hình lớn thông qua một ứng dụng có tên trợ lý Xiao V và lộ trình chủ đạo hiện tại trong ngành là nhúng khả năng mô hình lớn vào trợ lý trí tuệ nhân tạo hiện có.
Người dùng điện thoại thông minh có nhu cầu thực sự về khả năng hiểu các mô hình lớn, cho dù đó là trợ lý thông minh được gọi đùa là "khuyết tật trí tuệ nhân tạo" hay một ứng dụng và dữ liệu ngày càng cồng kềnh dưới sự bùng nổ của dung lượng, điện thoại di động cần có khả năng hiểu rõ hơn về tương tác và giúp người dùng sắp xếp thông tin. Việc bổ sung các mô hình lớn về cơ bản là để mang lại khả năng hiểu ngôn ngữ tự nhiên cho điện thoại di động.
Trong trường hợp triển khai chưa được triển khai, có thể bỏ qua các vấn đề về trải nghiệm người dùng như tiêu thụ điện năng, tản nhiệt và độ trễ có thể xảy ra trong mô hình phía thiết bị trong thời gian này. Theo quan điểm của Wang Yang, vấn đề chính mà mô hình vivo phải đối mặt là làm thế nào để phân biệt ranh giới khả năng của các mô hình khác nhau và cách gọi chúng khi nhiều mô hình được sử dụng cùng nhau, "liên quan đến hình thức sản phẩm cuối cùng và cách trình bày".
Đối mặt với mặt C với các kịch bản tổng quát và các yêu cầu phức tạp, các mô hình được gọi bởi các yêu cầu khác nhau là khác nhau. Ví dụ: mô hình thông số kỹ thuật 1 tỷ và mô hình thông số kỹ thuật 7 tỷ ở phía thiết bị cần học hỏi từ dữ liệu cục bộ của người dùng trong nỗ lực "hiểu người dùng tốt hơn". Do đó, liệu khả năng mô hình và hệ điều hành thích ứng với nó có thể được sử dụng để thực hiện các hướng dẫn phức tạp trên điện thoại di động hay không là một chỉ số quan trọng.
Cho đến nay, chức năng lệnh phức tạp được thể hiện bởi BlueLM là khá nổi bật. Trong OriginOS 4 mới được phát hành, trợ lý V nằm ở góc dưới bên phải của thanh bên và có thể bật lên bằng cách nhấp vào nó. Logic hoạt động không chỉ ngắn hơn so với mô hình phía đám mây, phù hợp hơn cho việc sử dụng điện thoại di động mà còn một số hướng dẫn phức tạp trong HĐH, chẳng hạn như tìm kiếm album thông minh, hoàn thành sơ bộ các lệnh Ứng dụng của bên thứ ba và cài đặt trong HĐH.
Điều đáng nói là trợ lý V nhỏ được tách biệt với giọng nói Jovi hiện có của vivo về chức năng và đường dẫn, và cả hai độc lập với nhau, điều này rõ ràng khác với đường dẫn mô hình lớn phía thiết bị được các nhà sản xuất khác đề xuất trước đây.
Từ quan điểm chức năng, trợ lý V nhỏ về cơ bản có thể đạt được độ bao phủ đầy đủ giọng nói của Jovi, vì vậy mục đích phân biệt hai có thể là tạo điều kiện cho người dùng cảm nhận được sự khác biệt giữa hai người. Hơn nữa, logic sản phẩm của trợ lý V nhỏ tương tự như Copilot được mang trong bộ chứa gia đình của Microsoft và hai đường dẫn khác nhau có thể sẽ được tích hợp trong tương lai.
Điều này cũng phản ánh rằng BlueLM hiện tại vẫn đang trong giai đoạn thử nghiệm, và hình thức sản phẩm rất khó để nói là trưởng thành.
Theo phản hồi từ những người tham gia thử nghiệm nội bộ BlueLM, với khả năng mô hình của mô hình hàng đầu của vivo, vẫn còn độ trễ 2s ~ 5s trong yêu cầu tạo văn bản thuần túy trong vòng 20 mã thông báo, đây không phải là tin tốt cho việc triển khai tiếp theo - sự chậm trễ của mô hình phía đám mây vẫn chưa được giải quyết tốt. Điều này có thể được cải thiện trong các mẫu được trang bị chip AI mới nhất từ các nhà sản xuất chip, nhưng đối với người tiêu dùng, điều này không phải là lý do để thay đổi điện thoại của họ.
Ngoài ra, là mẫu điện thoại di động đầu tiên trong ngành, khả năng mô hình phía đám mây của vivo cũng đang phải đối mặt với "vòng vây" của nhiều mẫu điện thoại lớn của các nhà cung cấp đám mây.
Ví dụ, vivo thông báo rằng họ sẽ ra mắt robot đàm thoại Lanxin Qianxun trong cửa hàng ứng dụng và thông số kỹ thuật 175 tỷ không dễ thấy so với các mô hình lớn trong các cửa hàng ứng dụng hiện tại. Trong số các nhà cung cấp đám mây, Baidu đã tính phí cho phiên bản chuyên nghiệp Wenxin 4.0 được phát hành gần đây để kiểm tra vùng biển, trong khi Lanxin Qianxun dường như là một thành viên không bắt mắt của hệ sinh thái mô hình lớn vivo, và con đường của nó rõ ràng là cản trở và dài.
Phải đề cập rằng vivo là người đến sau, và khoảng cách về lượng mưa công nghệ cũng sẽ hạn chế sự tiến bộ hơn nữa của hoạt động kinh doanh mô hình quy mô lớn của nó.
Về phần mềm, mô hình lớn vivo đã trở thành tài liệu quảng cáo của nền tảng học máy Pai của Alibaba Cloud và thậm chí chúng ta có thể tìm thấy bóng của "Tongyi Qianwen" từ cái tên "Blue Heart Qianwen". Chạy trên đám mây có nghĩa là chi phí dài hạn và điều này được phản ánh sinh động nhất trong OpenAI. Từ góc độ chi phí, nếu vivo muốn phát triển BlueLM thành một hệ sinh thái dài hạn, IDC tự xây dựng rõ ràng có lợi cho sự phát triển lâu dài hơn so với di chuyển lên đám mây.
Về phần cứng, Huawei và Apple, hai nhà sản xuất hàng đầu, đã tích hợp khả năng NPU tự phát triển vào các dòng sản phẩm hiện có của họ, trong khi vivo vẫn cần dựa vào các nhà sản xuất chip. Mặc dù một số rào cản nhất định có thể được xây dựng trong đào tạo và điều chỉnh mô hình, khoảng cách phần cứng là cốt lõi vẫn dẫn đến một số vị trí với các nhà sản xuất hàng đầu.
** Trận chiến thiết bị đầu cuối mô hình lớn **
Việc bổ sung mô hình lớn khiến chúng ta nhận ra rằng bản chất của điện thoại thông minh là một thiết bị đầu cuối thông minh tích hợp nhiều khả năng và nó có cả lối vào phần cứng và hệ điều hành. Các điều kiện độc đáo làm cho nó tự nhiên cho điện thoại di động được kết hợp với các mô hình lớn.
Vì vậy, các thiết bị đầu cuối khác cũng có thể được kết nối với mô hình lớn và xác định lại ranh giới khả năng của thiết bị đầu cuối giống như làm lại ứng dụng không?
Việc khám phá vấn đề này có thể bắt nguồn từ sự bùng nổ của các mạng học sâu và cuộc thảo luận về khả năng của các mô hình cuối cũng bắt nguồn từ các vấn đề "sáo rỗng" về độ trễ, tiêu thụ năng lượng, quyền riêng tư và các vấn đề khác trong ngành.
Trên thực tế, rất lâu trước khi chính thức bắt đầu cơn sốt nhồi nhét các mẫu lớn vào điện thoại di động, các phương tiện năng lượng mới với khả năng lái tự động đã trở thành thiết bị đầu cuối của các mẫu xe lớn. Không thiếu trí tưởng tượng trong ngành công nghiệp rằng các thiết bị đeo thông minh được trang bị các mẫu lớn, nhưng điện thoại di động dường như sắp đến đầu tiên với sự đa dạng của cảnh và sự tiện lợi của mạng.
Hơn nữa, khi các nhà sản xuất điện thoại di động phát hành mạnh mẽ các mẫu lớn và đưa chúng vào sử dụng, nó sẽ là một nền tảng đào tạo tuyệt vời cho các mô hình mặt cuối. Chúng ta cũng có thể thảo luận về phương pháp luận của một loạt các thiết bị đầu cuối được trang bị các mô hình lớn từ sự đổ bộ của các mẫu điện thoại di động lớn.
Rốt cuộc, cho dù mô hình trên điện thoại có tốt đến đâu, hiệu suất tốt nhất có thể đạt được trong một khoảng thời gian ngắn không gì khác hơn là một "thư ký" trong lĩnh vực cuộc sống của người dùng. Trí tưởng tượng được mang lại bởi mô hình lớn của các thiết bị đầu cuối thông minh khác chắc chắn là lớn hơn.
Ví dụ, các máy ATM đang dần rút khỏi giai đoạn lịch sử do thanh toán di động, có thể dựa vào các mô hình lớn để cho phép người dùng bỏ qua ngân hàng để xếp hàng kinh doanh chuyên sâu; Nó cũng là một camera thông minh thuộc kịch bản B-end, xác định các dấu hiệu cơ bản của bệnh nhân trong lĩnh vực y tế, kiểm tra chất lượng nhanh chóng trong lĩnh vực công nghiệp và tưới tiêu thông minh trong lĩnh vực nông nghiệp. Bây giờ, thị trường B-end, chưa được mở rộng rãi bằng cách dựa vào mô hình phía đám mây, cũng có thể mở ra biến số của mặt cuối.
Đây cũng là lý do vivo sẽ trình làng hệ điều hành Blue River (BlueOS) trang bị vivo Watch mới tại buổi họp báo lần này khi hệ sinh thái của nó chưa hoàn hảo như Huawei và Xiaomi. Là một hệ thống thiết bị đầu cuối chéo được vivo phát triển cho kỷ nguyên trí tuệ nhân tạo nói chung, sự ra mắt của nó nhằm mục đích thúc đẩy một loạt các sản phẩm IoT thông qua điện thoại di động, chắc chắn có trí tưởng tượng tốt.
vivo cũng đã công bố mã nguồn mở của mô hình đặc điểm kỹ thuật 7B của mình và ra mắt bộ công cụ phát triển BlueKit, đây là một tham vọng rõ ràng cho xây dựng sinh thái. Có lẽ ở thời điểm hiện tại, vivo mới chỉ đạt đến giai đoạn để IoT hiểu các hướng dẫn, nhưng điều này rất quan trọng đối với các chiến lược cao cấp, sinh thái và các chiến lược khác trong tương lai của vivo.
Khả năng của mô hình điện thoại di động vẫn chưa được biết, và có nhiều thách thức, và sau khi phát hành và hạ cánh chính thức, nó chắc chắn sẽ mang lại nhiều hướng "khối lượng mở" hơn cho ngành. Nhiều tư thế hạ cánh kỳ lạ hơn đang chờ được mở khóa bởi ngành công nghiệp.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Điện thoại được nhồi nhét với các mô hình lớn, và nó chỉ là khởi đầu
Nguồn gốc: Photon Planet
Các nhà sản xuất điện thoại di động, những người cần khẩn trương tìm một bánh đà mới, đang để mắt đến các mẫu lớn.
Tại hội nghị nhà phát triển vào đầu tháng 8, Huawei đã thông báo rằng họ sẽ tích hợp Xiaoyi, một trợ lý AI trong HarmonyOS 4, vào mô hình lớn và mời họ thử nghiệm vào cuối tháng Tám. Xiaomi cũng đã mở thử nghiệm lời mời của trợ lý AI Xiaoai để truy cập vào mô hình lớn cùng một lúc. OPPO và vivo theo sau, cả hai đều bắt đầu thử nghiệm với các mẫu điện thoại di động lớn vào tháng 11.
"Nhồi nhét các mô hình lớn vào điện thoại di động" không phải là một điều mới trong ngành,Chưa kể vivo, đã được hâm nóng mạnh mẽ kể từ giữa tháng Mười,Rongmi O ba đã tiết lộ tin tức liên quan tại cuộc họp báo được tổ chức năm nay。 Quan điểm chung trong ngành là phần cứng của đường đua điện thoại thông minh gần như không thể triển khai và hầu hết các mô hình lớn chạy trên đám mây chỉ là một biến không có phần cứng.
Cần lưu ý rằng triển khai phía thiết bị cũng là một xu hướng công nghiệp cho các bản nhạc mô hình lớn. Lấy ChatGPT làm ví dụ, như một đại diện điển hình của mô hình lớn phía đám mây, việc đào tạo và suy luận của nó chạy trên Azure của Microsoft và người dùng có được kết quả thông qua trình duyệt hoặc ứng dụng. Giữa đầu vào-đầu ra và qua lại, không chỉ có độ trễ ảnh hưởng đến trải nghiệm người dùng mà còn cả chi phí đám mây như tiêu thụ năng lượng và sức mạnh tính toán.
Từ góc độ của các kịch bản và nhu cầu thực tế, nhiều nhu cầu có thể được đáp ứng bởi các thiết bị biên, đặc biệt là các thiết bị đầu cuối được sử dụng rộng rãi như điện thoại di động, PC và các phương tiện năng lượng mới.
Do đó, việc triển khai các mô hình lớn ở phía cuối đã dần trở thành sự đồng thuận, không chỉ các nhà sản xuất điện thoại di động đã nỗ lực đào tạo các mô hình, mà cả Lenovo trên đường đua PC và Qualcomm trên đường đua chip đã phát hành các giải pháp liên quan cho AI phía cuối một thời gian trước đây. Trong đó, Qualcomm Snapdragon 8 Gen3 và MediaTek Dimensity 9300 vừa ra mắt, việc cải thiện hiệu suất AI của chúng có thể nói là nền tảng của model lớn trên điện thoại di động.
Nhu cầu của ngành công nghiệp và điều kiện phần cứng đã được đáp ứng, và mô hình lớn cuối cùng có thể vào điện thoại di động. Điều khá bất ngờ là nhà sản xuất điện thoại di động đầu tiên đưa ra một "sản phẩm hoàn chỉnh" là vivo.
**Tình trạng của mẫu vivo lớn là gì? **
Vào ngày 1 tháng 11, vivo đã tổ chức một hội nghị nhà phát triển, tại đó họ đã phát hành ma trận mô hình lớn tự phát triển "BlueLM", bao gồm 1 tỷ, 10 tỷ, 100 tỷ và các thang đo thông số khác nhau. Đồng thời, nó cũng phát hành OriginOS 4, một hệ điều hành tự phát triển phù hợp với mô hình lớn của nó.
Trước "miền đất hứa" của những người mẫu lớn, sự háo hức của vivo gần như được viết lên trên môi.
Theo dữ liệu mới nhất do Canalys, một cơ quan nghiên cứu thị trường công bố, vào ngày 26/10, các lô hàng và lô hàng của vivo đã giảm, và thứ hạng cũng giảm. vivo rất cần các mô hình lớn và OriginOS 4 để lật ngược tình thế, và không có gì ngạc nhiên khi nó sẽ là người đầu tiên "mở sách".
Và so với model lớn, khoảng thời gian cập nhật của OriginOS 4 được vivo ra mắt lần này hơi yếu. Trong cuộc thảo luận về phạm vi công cộng, không chỉ việc lặp lại card đồ họa ảo, không gian tính toán không đồng nhất và nhẹ không như mong đợi, mà cả các mô-đun như thông báo nguyên tử, khá lớn giữa những người dùng vivo, cũng chưa được nâng cấp. Nói cách khác, mô hình lớn là nhân vật chính của hội nghị này.
Từ góc độ mô hình kinh doanh, lộ trình của vivo tại buổi họp báo lần này tương tự như các công ty khác trong ngành trước đây, với trợ lý trí tuệ nhân tạo là nhà mạng, áp dụng phương thức triển khai lai phía thiết bị + phía đám mây, trong đó mô hình lớn phía thiết bị, là trò chơi chính, thể hiện các đặc điểm rõ ràng của nội địa hóa và nhẹ.
Mục đích của việc này là rõ ràng, mức tiêu thụ điện năng và sức mạnh tính toán được cung cấp bởi thế giới nhỏ của điện thoại di động không giống như trong phòng máy tính. Đó chỉ là cách kết hợp khả năng mô hình với chiều sâu của điện thoại di động đã trở thành "bí quyết" mà các nhà sản xuất điện thoại di động cần khẩn trương để vượt qua.
Về vấn đề này, giải pháp của vivo là ra mắt mô hình đặc tả đa thông số, trong đó 1 tỷ thông số kỹ thuật chủ yếu dành cho kịch bản văn bản và 7 tỷ thông số kỹ thuật cho đối thoại tự nhiên và câu hỏi và trả lời kiến thức tele là những điểm nổi bật của triển khai phía thiết bị. Trong phần giới thiệu chính thức, 1 tỷ thông số kỹ thuật được định hướng riêng cho phía thiết bị và 7 tỷ thông số kỹ thuật được thiết lập là mục đích kép cho thiết bị và đám mây, và tất cả chúng đã được triển khai trên đám mây kể từ 70 tỷ, điều này cũng phản ánh ý tưởng ma trận của vivo về "hãy để Chúa trở về với Chúa và Caesar trở lại với Caesar" trong sự hợp tác giữa thiết bị và đám mây.
Điều này cũng giống như hội nghị nhà phát triển I / O của Google vào tháng 5 năm nay, khi Google phát hành một mô hình lớn PaLM2 với bốn thông số kỹ thuật tham số, trong đó mô hình tham số nhỏ có thể xử lý 20 mã thông báo mỗi giây ở trạng thái ngoại tuyến, phù hợp để sử dụng ngoại tuyến các thiết bị đầu cuối.
Nếu bạn cho rằng vivo đang "ngoáy răng người ta" thì quá khắc nghiệt. Trên thực tế, vivo đã bắt đầu thành lập một nhóm AI nội bộ vào đầu năm 2017 và ngày nay, Viện nghiên cứu AI vivo có hơn 1.000 nhà nghiên cứu.
Mặc dù lượng mưa kỹ thuật của nó thường kém hơn so với tiếng vang đầu tiên như Ali và Baidu, sự tồn tại của cộng đồng nguồn mở cũng cho phép những người chơi tham gia thị trường muộn hơn một chút để nhanh chóng bắt kịp với đội quân lớn. Viện nghiên cứu đồ thị tri thức do vivo thành lập vào năm 2018 cũng có thể tăng cường việc thiếu dữ liệu đào tạo mà nó có thể gặp phải với tư cách là một nhà sản xuất điện thoại di động ở một mức độ nhất định.
Về khả năng mô hình, vivo đã đưa ra một phiếu trả lời tốt trong thời gian khởi động. Được biết, BlueLM đã giành được vị trí đầu tiên trong hạng mục "mô hình truy cập hạn chế" trong bộ đánh giá của bên thứ ba C-của mô hình lớn Trung Quốc. Theo thông báo chính thức của mình, BlueLM là mẫu lớn 7B đầu tiên trong ngành.
Tuy nhiên, có không ít mô hình đạt điểm cao trong đánh giá nhưng có hiệu suất thực tế không đạt yêu cầu, và một số người trong ngành cho rằng danh sách này đã bị "gạt đi" trong khoảng thời gian qua, chỉ có thể thể hiện khả năng "đặt câu hỏi" của mô hình và không thể phản ánh khả năng suy luận, an toàn và khả năng thích ứng. Từ quan điểm này, rõ ràng kết quả kinh doanh của vivo cần nhiều thử nghiệm thực tế hơn.
Hơn nữa, các khả năng mô hình đám mây hiện tại của vivo, chẳng hạn như sơ đồ và tương tác Wensheng, đã không nhảy ra khỏi cái bẫy của các mô hình lớn và tính mới bị hạn chế. Hơn nữa, khả năng mô hình phía thiết bị của nó như một trò chơi chính vẫn đang trong giai đoạn thử nghiệm và việc hiển thị các khả năng phía cuối chắc chắn bị hạn chế bởi phần cứng điện thoại di động.
Chúng tôi được biết rằng nhiều người dùng được mời tham gia thử nghiệm nội bộ của Blue Heart đang sử dụng điện thoại hàng đầu do X90 Pro đại diện và các mẫu này cũng cao nhất trong lịch trình thích ứng beta công khai cho các ứng dụng mô hình quy mô lớn do vivo phát hành.
Không còn nghi ngờ gì nữa, các mô hình lớn đang trở thành chiến trường thứ hai để các nhà sản xuất điện thoại di động mở ra cao cấp, và chúng cũng là một biến số quan trọng để hồi sinh người dùng và kích hoạt IoT. Mặc dù vậy, vẫn còn nhiều biến số trong ý định của vivo nhằm tăng giá trị của các sản phẩm cao cấp bằng cách dựa vào các mẫu lớn
Trong phân tích cuối cùng, sự ra mắt của mô hình lớn không chỉ là nền tảng mới của phân khúc cao cấp của vivo, mà còn là nỗ lực kéo máy móc mới và các sản phẩm cao cấp.
Các mô hình cấp thấp đương nhiên khó đối phó với cuộc chiến cao cấp này. Lấy mẫu cơ bản Y100 được vivo phát hành trước buổi họp báo này làm ví dụ, đây là một trong những mẫu máy mới nhất trong kế hoạch thích ứng nói trên, và đằng sau động thái "đâm sau" tương tự như vậy là "bàn tính nhỏ" của vivo hy vọng sẽ trở lại ngôi vương với các sản phẩm cao cấp.
Mặc dù vậy, việc ra mắt các mẫu lớn vẫn không phải là điểm cộng cho các sản phẩm cao cấp của vivo.
Wang Yang (bút danh), một doanh nhân cộng đồng mã nguồn mở của mô hình lớn phía thiết bị, nói với Photon Planet rằng khả năng của mô hình lớn ở phía thiết bị nằm ở hiệu suất AI do NPU (bộ xử lý được thiết kế đặc biệt cho điện toán mạng thần kinh sâu) mang lại. Tuy nhiên, các mô hình trước đây của in vivo, nó không chú ý đến khả năng NPU, vì vậy có khả năng các mẫu cũ sẽ khó chạy trơn tru các mẫu lớn.
Đối với bản phát hành sắp tới, dòng vivo X100 model mới được trang bị chip hàng đầu MediaTek Dimensity 9300 và bộ xử lý AI thế hệ mới có thể sử dụng khả năng mô hình một cách mượt mà, nhưng trong trường hợp đã có các ứng dụng mô hình lớn như Wenxin Yiyan và iFLYTEK Xinghuo trên thị trường, không gian còn lại cho điện thoại di động không lớn như tưởng tượng. So với khả năng, có lẽ lối chơi được vivo thể hiện lần này đáng để nghiên cứu chuyên sâu hơn.
** Làm cho điện thoại của bạn thông minh hơn? **
Kevin Scott, CTO của Microsoft, người đã thúc đẩy Microsoft trở thành nhà đầu tư thiên thần trong OpenAI, đã công khai tuyên bố rằng bản thân mô hình này không phải là một sản phẩm, mà là một cơ sở hạ tầng. Hàm ý là sau khi đào tạo tinh chỉnh cơ sở mô hình, việc thăm dò sản xuất là cốt lõi của "tinh thần kinh doanh thứ hai" của nhiều người chơi.
Việc "tái sản xuất" các mô hình lớn trên điện thoại di động là một vấn đề tất nhiên, nhưng các mô hình lớn được triển khai trên điện thoại di động vẫn cần phải được sản xuất thêm. Đánh giá từ thông tin được tiết lộ cho đến nay, vivo sẽ nhận ra khả năng mô hình lớn thông qua một ứng dụng có tên trợ lý Xiao V và lộ trình chủ đạo hiện tại trong ngành là nhúng khả năng mô hình lớn vào trợ lý trí tuệ nhân tạo hiện có.
Người dùng điện thoại thông minh có nhu cầu thực sự về khả năng hiểu các mô hình lớn, cho dù đó là trợ lý thông minh được gọi đùa là "khuyết tật trí tuệ nhân tạo" hay một ứng dụng và dữ liệu ngày càng cồng kềnh dưới sự bùng nổ của dung lượng, điện thoại di động cần có khả năng hiểu rõ hơn về tương tác và giúp người dùng sắp xếp thông tin. Việc bổ sung các mô hình lớn về cơ bản là để mang lại khả năng hiểu ngôn ngữ tự nhiên cho điện thoại di động.
Trong trường hợp triển khai chưa được triển khai, có thể bỏ qua các vấn đề về trải nghiệm người dùng như tiêu thụ điện năng, tản nhiệt và độ trễ có thể xảy ra trong mô hình phía thiết bị trong thời gian này. Theo quan điểm của Wang Yang, vấn đề chính mà mô hình vivo phải đối mặt là làm thế nào để phân biệt ranh giới khả năng của các mô hình khác nhau và cách gọi chúng khi nhiều mô hình được sử dụng cùng nhau, "liên quan đến hình thức sản phẩm cuối cùng và cách trình bày".
Đối mặt với mặt C với các kịch bản tổng quát và các yêu cầu phức tạp, các mô hình được gọi bởi các yêu cầu khác nhau là khác nhau. Ví dụ: mô hình thông số kỹ thuật 1 tỷ và mô hình thông số kỹ thuật 7 tỷ ở phía thiết bị cần học hỏi từ dữ liệu cục bộ của người dùng trong nỗ lực "hiểu người dùng tốt hơn". Do đó, liệu khả năng mô hình và hệ điều hành thích ứng với nó có thể được sử dụng để thực hiện các hướng dẫn phức tạp trên điện thoại di động hay không là một chỉ số quan trọng.
Cho đến nay, chức năng lệnh phức tạp được thể hiện bởi BlueLM là khá nổi bật. Trong OriginOS 4 mới được phát hành, trợ lý V nằm ở góc dưới bên phải của thanh bên và có thể bật lên bằng cách nhấp vào nó. Logic hoạt động không chỉ ngắn hơn so với mô hình phía đám mây, phù hợp hơn cho việc sử dụng điện thoại di động mà còn một số hướng dẫn phức tạp trong HĐH, chẳng hạn như tìm kiếm album thông minh, hoàn thành sơ bộ các lệnh Ứng dụng của bên thứ ba và cài đặt trong HĐH.
Điều đáng nói là trợ lý V nhỏ được tách biệt với giọng nói Jovi hiện có của vivo về chức năng và đường dẫn, và cả hai độc lập với nhau, điều này rõ ràng khác với đường dẫn mô hình lớn phía thiết bị được các nhà sản xuất khác đề xuất trước đây.
Từ quan điểm chức năng, trợ lý V nhỏ về cơ bản có thể đạt được độ bao phủ đầy đủ giọng nói của Jovi, vì vậy mục đích phân biệt hai có thể là tạo điều kiện cho người dùng cảm nhận được sự khác biệt giữa hai người. Hơn nữa, logic sản phẩm của trợ lý V nhỏ tương tự như Copilot được mang trong bộ chứa gia đình của Microsoft và hai đường dẫn khác nhau có thể sẽ được tích hợp trong tương lai.
Điều này cũng phản ánh rằng BlueLM hiện tại vẫn đang trong giai đoạn thử nghiệm, và hình thức sản phẩm rất khó để nói là trưởng thành.
Theo phản hồi từ những người tham gia thử nghiệm nội bộ BlueLM, với khả năng mô hình của mô hình hàng đầu của vivo, vẫn còn độ trễ 2s ~ 5s trong yêu cầu tạo văn bản thuần túy trong vòng 20 mã thông báo, đây không phải là tin tốt cho việc triển khai tiếp theo - sự chậm trễ của mô hình phía đám mây vẫn chưa được giải quyết tốt. Điều này có thể được cải thiện trong các mẫu được trang bị chip AI mới nhất từ các nhà sản xuất chip, nhưng đối với người tiêu dùng, điều này không phải là lý do để thay đổi điện thoại của họ.
Ngoài ra, là mẫu điện thoại di động đầu tiên trong ngành, khả năng mô hình phía đám mây của vivo cũng đang phải đối mặt với "vòng vây" của nhiều mẫu điện thoại lớn của các nhà cung cấp đám mây.
Ví dụ, vivo thông báo rằng họ sẽ ra mắt robot đàm thoại Lanxin Qianxun trong cửa hàng ứng dụng và thông số kỹ thuật 175 tỷ không dễ thấy so với các mô hình lớn trong các cửa hàng ứng dụng hiện tại. Trong số các nhà cung cấp đám mây, Baidu đã tính phí cho phiên bản chuyên nghiệp Wenxin 4.0 được phát hành gần đây để kiểm tra vùng biển, trong khi Lanxin Qianxun dường như là một thành viên không bắt mắt của hệ sinh thái mô hình lớn vivo, và con đường của nó rõ ràng là cản trở và dài.
Phải đề cập rằng vivo là người đến sau, và khoảng cách về lượng mưa công nghệ cũng sẽ hạn chế sự tiến bộ hơn nữa của hoạt động kinh doanh mô hình quy mô lớn của nó.
Về phần mềm, mô hình lớn vivo đã trở thành tài liệu quảng cáo của nền tảng học máy Pai của Alibaba Cloud và thậm chí chúng ta có thể tìm thấy bóng của "Tongyi Qianwen" từ cái tên "Blue Heart Qianwen". Chạy trên đám mây có nghĩa là chi phí dài hạn và điều này được phản ánh sinh động nhất trong OpenAI. Từ góc độ chi phí, nếu vivo muốn phát triển BlueLM thành một hệ sinh thái dài hạn, IDC tự xây dựng rõ ràng có lợi cho sự phát triển lâu dài hơn so với di chuyển lên đám mây.
Về phần cứng, Huawei và Apple, hai nhà sản xuất hàng đầu, đã tích hợp khả năng NPU tự phát triển vào các dòng sản phẩm hiện có của họ, trong khi vivo vẫn cần dựa vào các nhà sản xuất chip. Mặc dù một số rào cản nhất định có thể được xây dựng trong đào tạo và điều chỉnh mô hình, khoảng cách phần cứng là cốt lõi vẫn dẫn đến một số vị trí với các nhà sản xuất hàng đầu.
** Trận chiến thiết bị đầu cuối mô hình lớn **
Việc bổ sung mô hình lớn khiến chúng ta nhận ra rằng bản chất của điện thoại thông minh là một thiết bị đầu cuối thông minh tích hợp nhiều khả năng và nó có cả lối vào phần cứng và hệ điều hành. Các điều kiện độc đáo làm cho nó tự nhiên cho điện thoại di động được kết hợp với các mô hình lớn.
Vì vậy, các thiết bị đầu cuối khác cũng có thể được kết nối với mô hình lớn và xác định lại ranh giới khả năng của thiết bị đầu cuối giống như làm lại ứng dụng không?
Việc khám phá vấn đề này có thể bắt nguồn từ sự bùng nổ của các mạng học sâu và cuộc thảo luận về khả năng của các mô hình cuối cũng bắt nguồn từ các vấn đề "sáo rỗng" về độ trễ, tiêu thụ năng lượng, quyền riêng tư và các vấn đề khác trong ngành.
Trên thực tế, rất lâu trước khi chính thức bắt đầu cơn sốt nhồi nhét các mẫu lớn vào điện thoại di động, các phương tiện năng lượng mới với khả năng lái tự động đã trở thành thiết bị đầu cuối của các mẫu xe lớn. Không thiếu trí tưởng tượng trong ngành công nghiệp rằng các thiết bị đeo thông minh được trang bị các mẫu lớn, nhưng điện thoại di động dường như sắp đến đầu tiên với sự đa dạng của cảnh và sự tiện lợi của mạng.
Hơn nữa, khi các nhà sản xuất điện thoại di động phát hành mạnh mẽ các mẫu lớn và đưa chúng vào sử dụng, nó sẽ là một nền tảng đào tạo tuyệt vời cho các mô hình mặt cuối. Chúng ta cũng có thể thảo luận về phương pháp luận của một loạt các thiết bị đầu cuối được trang bị các mô hình lớn từ sự đổ bộ của các mẫu điện thoại di động lớn.
Rốt cuộc, cho dù mô hình trên điện thoại có tốt đến đâu, hiệu suất tốt nhất có thể đạt được trong một khoảng thời gian ngắn không gì khác hơn là một "thư ký" trong lĩnh vực cuộc sống của người dùng. Trí tưởng tượng được mang lại bởi mô hình lớn của các thiết bị đầu cuối thông minh khác chắc chắn là lớn hơn.
Ví dụ, các máy ATM đang dần rút khỏi giai đoạn lịch sử do thanh toán di động, có thể dựa vào các mô hình lớn để cho phép người dùng bỏ qua ngân hàng để xếp hàng kinh doanh chuyên sâu; Nó cũng là một camera thông minh thuộc kịch bản B-end, xác định các dấu hiệu cơ bản của bệnh nhân trong lĩnh vực y tế, kiểm tra chất lượng nhanh chóng trong lĩnh vực công nghiệp và tưới tiêu thông minh trong lĩnh vực nông nghiệp. Bây giờ, thị trường B-end, chưa được mở rộng rãi bằng cách dựa vào mô hình phía đám mây, cũng có thể mở ra biến số của mặt cuối.
Đây cũng là lý do vivo sẽ trình làng hệ điều hành Blue River (BlueOS) trang bị vivo Watch mới tại buổi họp báo lần này khi hệ sinh thái của nó chưa hoàn hảo như Huawei và Xiaomi. Là một hệ thống thiết bị đầu cuối chéo được vivo phát triển cho kỷ nguyên trí tuệ nhân tạo nói chung, sự ra mắt của nó nhằm mục đích thúc đẩy một loạt các sản phẩm IoT thông qua điện thoại di động, chắc chắn có trí tưởng tượng tốt.
vivo cũng đã công bố mã nguồn mở của mô hình đặc điểm kỹ thuật 7B của mình và ra mắt bộ công cụ phát triển BlueKit, đây là một tham vọng rõ ràng cho xây dựng sinh thái. Có lẽ ở thời điểm hiện tại, vivo mới chỉ đạt đến giai đoạn để IoT hiểu các hướng dẫn, nhưng điều này rất quan trọng đối với các chiến lược cao cấp, sinh thái và các chiến lược khác trong tương lai của vivo.
Khả năng của mô hình điện thoại di động vẫn chưa được biết, và có nhiều thách thức, và sau khi phát hành và hạ cánh chính thức, nó chắc chắn sẽ mang lại nhiều hướng "khối lượng mở" hơn cho ngành. Nhiều tư thế hạ cánh kỳ lạ hơn đang chờ được mở khóa bởi ngành công nghiệp.