Производители мобильных телефонов, которым срочно нужно найти новый маховик, присматриваются к крупным моделям.
На конференции разработчиков в начале августа Huawei объявила, что интегрирует Xiaoyi, помощника с искусственным интеллектом в HarmonyOS 4, в большую модель, и предложила протестировать ее в конце августа. Xiaomi также открыла тест приглашения своего помощника с искусственным интеллектом Xiaoai, чтобы получить доступ к большой модели примерно в то же время. За ними последовали OPPO и vivo, которые начали экспериментировать с большими моделями мобильных телефонов в ноябре.
"Запихивание больших моделей в мобильные телефоны" не является чем-то новым в отрасли,Не говоря уже о vivo, который интенсивно разогревается с середины октября,Rongmi O три раскрыли соответствующие новости на пресс-конференции, состоявшейся в этом году。 Общее мнение в отрасли заключается в том, что аппаратная часть смартфонов практически не сворачивается, а большинство больших моделей, работающих в облаке, являются просто переменной, свободной от аппаратного обеспечения.
Следует отметить, что развертывание на стороне устройства также является отраслевой тенденцией для дорожек больших моделей. Возьмем в качестве примера ChatGPT как типичного представителя облачной большой модели, ее обучение и вывод выполняются в Microsoft Azure, а пользователи получают результаты через браузеры или приложения. Между вводом-выводом и возвратом происходит не только задержка, которая влияет на взаимодействие с пользователем, но и затраты на облако, такие как энергопотребление и вычислительная мощность.
С точки зрения реальных сценариев и потребностей, многие потребности могут быть удовлетворены с помощью периферийных устройств, особенно терминалов, которые широко используются, таких как мобильные телефоны, ПК и транспортные средства на новых источниках энергии.
В результате, конечное развертывание больших моделей постепенно стало консенсусом, не только производители мобильных телефонов приковали свои усилия к обучению моделей, но и Lenovo на треке ПК и Qualcomm на треке чипов некоторое время назад выпустили соответствующие решения для конечного ИИ. В частности, только что вышедшие Qualcomm Snapdragon 8 Gen3 и MediaTek Dimensity 9300, улучшение их производительности ИИ, можно сказать, лежит в основе большой модели на мобильном телефоне.
Потребности отрасли и аппаратные условия были удовлетворены, и большая модель, наконец, может войти в мобильные телефоны. Что довольно удивительно, так это то, что первым производителем мобильных телефонов, выпустившим «законченный продукт», стала компания vivo.
**В каком состоянии находится большая модель vivo? **
1 ноября компания vivo провела конференцию разработчиков, на которой представила матрицу собственной разработки большой модели «BlueLM», включающую шкалы 1 миллиарда, 10 миллиардов, 100 миллиардов и другие различные шкалы параметров. В то же время она также выпустила OriginOS 4, операционную систему собственной разработки, адаптированную к своей большой модели.
Перед лицом «земли обетованной» крупных моделей рвение vivo почти написано на его лице.
Согласно последним данным, опубликованным агентством маркетинговых исследований Canalys, 26 октября поставки vivo и отгрузки снизились, и рейтинг также упал. vivo срочно нужны большие модели и OriginOS 4, чтобы переломить ситуацию, и неудивительно, что она будет первой, кто «откроет книгу».
И по сравнению с большой моделью, диапазон обновления OriginOS 4, запущенной vivo, на этот раз немного слабый. В обсуждении общественного достояния не только итерация его виртуальной видеокарты, неоднородное вычислительное пространство и легкость не соответствуют ожиданиям, но и такие модули, как атомарное уведомление, которое довольно громко звучит среди пользователей vivo, не были обновлены. Другими словами, большая модель является главным героем этой конференции.
С точки зрения бизнес-модели, путь vivo на этой пресс-конференции аналогичен пути других игроков в отрасли, с помощником искусственного интеллекта в качестве носителя, использующего гибридный метод развертывания на стороне устройства + облака, в котором большая модель на стороне устройства, которая является основной игрой, представляет собой очевидные характеристики локализации и легкости.
Цель этого очевидна, энергопотребление и вычислительная мощность, обеспечиваемые маленьким миром мобильных телефонов, не такие, как в компьютерном зале. Просто то, как совместить возможности модели с глубиной мобильного телефона, стало «ноу-хау», которое производителям мобильных телефонов срочно нужно прорвать.
В связи с этим решение vivo заключается в запуске многопараметрической модели спецификаций, из которых 1 миллиард спецификаций в основном предназначены для текстовых сценариев, а 7 миллиардов спецификаций для естественного диалога и телеобъектива с вопросами и ответами на знание являются основными моментами развертывания на стороне устройства. В официальном введении спецификации 1 миллиарда отдельно ориентированы на сторону устройства, а спецификации на 7 миллиардов настроены как на двойное назначение для устройства и облака, и все они были развернуты в облаке с 70 миллиардов, что также отражает матричную идею vivo «пусть Бог вернется к Богу, а Цезарь — к Цезарю» в сотрудничестве устройства и облака.
Это то же самое, что и на конференции разработчиков Google I/O в мае этого года, когда Google выпустила большую модель PaLM2 с четырьмя спецификациями параметров, из которых модель с малыми параметрами может обрабатывать 20 токенов в секунду в автономном состоянии, что подходит для автономного использования терминалов.
Если вы думаете, что vivo «ковыряет людям зубы», то это слишком резко. На самом деле, vivo намеревалась создать внутреннюю команду ИИ еще в 2017 году, и сегодня в Научно-исследовательском институте искусственного интеллекта vivo работает более 1000 исследователей.
Несмотря на то, что его техническое осаждение в целом уступает первому эшелону, такому как Ali и Baidu, существование сообщества с открытым исходным кодом также позволяет игрокам, которые выходят на рынок чуть позже, быстро догнать большую армию. Исследовательский институт Knowledge Graph Research Institute, созданный vivo в 2018 году, также может в определенной степени восполнить недостаток обучающих данных, с которым он может столкнуться как производитель мобильных телефонов.
Что касается способности модели, то vivo сдал хороший лист ответов в период разминки. Сообщается, что BlueLM завоевала первое место в категории «модель ограниченного доступа» в стороннем оценочном наборе C-of Chinese large model. Согласно официальному объявлению, BlueLM является первой в отрасли большой моделью 7B.
Тем не менее, есть немало моделей, которые набрали высокие баллы в оценке, но имеют неудовлетворительную фактическую производительность, и некоторые люди в отрасли говорят, что этот список был «отмахнут» за прошедший период времени, что может представлять только способность модели «отвечать на вопросы» и не может отражать способность к рассуждению, безопасность и адаптивность. С этой точки зрения понятно, что бизнес-результаты vivo нуждаются в более практических проверках.
Более того, текущие возможности облачных моделей vivo, такие как диаграмма Вэньшэна и взаимодействие, не выскочили из ловушки больших моделей, и новизна ограничена. Более того, возможности его модели на стороне устройства все еще находятся на стадии тестирования, а отображение возможностей на стороне устройства неизбежно ограничено аппаратным обеспечением мобильного телефона.
Мы узнали, что многие пользователи, которых пригласили принять участие во внутреннем тестировании Blue Heart, используют флагманские телефоны в лице X90 Pro, и эти модели также являются самыми высокими в графике адаптации публичных бета-версий для масштабных модельных приложений, выпущенных vivo.
Пожалуйста, введите диаграмму, чтобы сказать
Нет никаких сомнений в том, что большие модели становятся вторым полем битвы для производителей мобильных телефонов, открывающим для себя высококлассные сегменты, и они также являются важной переменной для оживления пользователей и активации IoT. Несмотря на это, в намерении vivo увеличить ценность высококачественных продуктов, полагаясь на большие модели по-прежнему есть много переменных
В конечном счете, запуск большой модели является не только новым краеугольным камнем высокого класса vivo, но и попыткой привлечь новые машины и продукты высокого класса.
Бюджетным моделям, естественно, сложно справиться с этой войной высокого класса. Возьмем в качестве примера базовую модель Y100, выпущенную vivo перед этой пресс-конференцией, это одна из последних моделей в вышеупомянутом плане адаптации, и за таким подобным «ударом в спину» стоит надежда vivo на возвращение на трон с высококлассными продуктами.
Тем не менее, запуск больших моделей по-прежнему не является плюсом для высококлассных продуктов vivo.
Ван Ян (Wang Yang) (псевдоним), предприниматель сообщества с открытым исходным кодом, занимающийся разработкой большой модели на стороне устройства, рассказал Photon Planet, что возможности большой модели на стороне устройства заключаются в производительности искусственного интеллекта, обеспечиваемой его NPU (процессором, специально разработанным для вычислений на основе глубоких нейронных сетей). Однако в предыдущих моделях vivo не обращали внимания на возможности NPU, поэтому вполне вероятно, что старшим моделям будет сложно плавно запускать большие модели.
Что касается предстоящего релиза, то новая модель серии vivo X100, оснащенная флагманским чипом MediaTek Dimensity 9300 и процессором искусственного интеллекта нового поколения, возможно, сможет плавно использовать возможности модели, но в случае, если на рынке уже есть крупные модельные приложения, такие как Wenxin Yiyan и iFLYTEK Xinghuo, оставшееся пространство для мобильного телефона не так велико, как представлялось. По сравнению со способностями, пожалуй, геймплей, показанный vivo в этот раз, более достоин углубленного изучения.
**Сделать свой телефон умнее? **
Кевин Скотт (Kevin Scott), технический директор Microsoft, который подтолкнул Microsoft стать бизнес-ангелом в OpenAI, публично заявил, что сама модель является не продуктом, а инфраструктурой. Подразумевается, что после того, как тренинг отладит модельную базу, исследование продуктизации станет ядром «второго предпринимательства» многих игроков.
«Репродуктизация» больших моделей на мобильных телефонах является чем-то само собой разумеющимся, но большие модели, используемые на мобильных телефонах, все еще нуждаются в дальнейшем производстве. Судя по информации, представленной до сих пор, vivo будет реализовывать возможности больших моделей с помощью приложения под названием Xiao V assistant, и в настоящее время основной путь в отрасли заключается в том, чтобы встроить возможности больших моделей в существующий помощник с искусственным интеллектом.
Пользователи смартфонов испытывают реальную потребность в способности понимать большие модели, будь то умный помощник, в шутку называемый «искусственной умственной отсталостью», или все более раздутое приложение и данные в условиях взрывного роста емкости, мобильные телефоны должны быть в состоянии лучше понимать взаимодействие и помогать пользователям сортировать информацию. Добавление больших моделей, по сути, призвано привнести в мобильные телефоны возможности понимания естественного языка.
В случае нереализованной реализации такие проблемы, как энергопотребление, рассеивание тепла и задержки, которые могут возникнуть в модели на стороне устройства, могут быть проигнорированы на некоторое время. По мнению Ван Яна, основная проблема, с которой сталкивается модель vivo, заключается в том, как различать границы возможностей различных моделей и как их называть, когда несколько моделей используются вместе, «что связано с конечной формой продукта и его представлением».
Перед лицом C-стороны с обобщенными сценариями и сложными требованиями модели, вызываемые разными требованиями, различаются. Например, модели спецификаций 1 млрд и 7 млрд спецификаций на стороне устройства должны обучаться на основе локальных данных пользователя, чтобы «лучше понять пользователя». Поэтому важным показателем является то, можно ли использовать возможности модели и адаптированную к ней ОС для реализации сложных инструкций на мобильном телефоне.
До сих пор комплексная командная функция, демонстрируемая BlueLM, была достаточно изюминкой. В недавно выпущенной OriginOS 4 V-assistant находится в правом нижнем углу боковой панели, и его можно открыть, щелкнув по нему. Мало того, что логика работы короче, чем у облачной модели, которая больше подходит для использования мобильным телефоном, так еще и некоторые сложные инструкции в ОС, такие как интеллектуальный поиск альбомов, предварительное выполнение сторонних команд приложений и настройки в ОС.
Стоит отметить, что маленький V-помощник изолирован от существующего голоса Jovi от vivo с точки зрения функций и пути, и они независимы друг от друга, что, очевидно, отличается от большого пути модели на стороне устройства, предложенного другими производителями ранее.
С функциональной точки зрения, маленький V-помощник может в основном обеспечить полный охват голоса Джови, поэтому цель различения этих двух компонентов, скорее всего, будет заключаться в том, чтобы помочь пользователям почувствовать разницу между ними. Более того, продуктовая логика маленького V-помощника похожа на логику Copilot, которая находится в семейной корзине Microsoft, и два разных пути, вероятно, будут интегрированы в будущем.
Это также отражает тот факт, что текущий BlueLM все еще находится на стадии тестирования, а форму продукта трудно назвать зрелой.
Согласно отзывам тех, кто участвовал во внутреннем тестировании BlueLM, с модельными возможностями флагманской модели vivo все еще существует задержка в 2 с~ 5 секунд в требовании генерации открытого текста в пределах 20 токенов, что не является хорошей новостью для последующей реализации - задержка облачной модели не была хорошо решена. Это может быть улучшено в моделях, оснащенных новейшими чипами искусственного интеллекта от производителей чипов, но для потребителей это не является поводом для смены телефона.
Кроме того, будучи первой в отрасли моделью мобильного телефона, облачная модель vivo также сталкивается с «окружением» крупных моделей многих поставщиков облачных услуг.
Например, vivo объявила, что запустит разговорного робота Lanxin Qianxun в магазине приложений, а спецификации в 175 миллиардов параметров не бросаются в глаза по сравнению с большими моделями в текущих магазинах приложений. Среди поставщиков облачных услуг Baidu уже взимает плату за недавно выпущенную профессиональную версию Wenxin 4.0, чтобы протестировать почву, в то время как Lanxin Qianxun, похоже, является не очень привлекательным членом экосистемы больших моделей vivo, и его путь, очевидно, затруднен и долог.
Следует отметить, что vivo поздно появилась, и разрыв в технологических осадках также будет ограничивать дальнейшее продвижение ее крупномасштабного модельного бизнеса.
С точки зрения программного обеспечения, большая модель vivo стала рекламным материалом платформы машинного обучения Pai от Alibaba Cloud, и мы даже можем найти тень «Тунъи Цяньвэнь» от имени «Голубое сердце Цяньвэнь». Работа в облаке означает долгосрочные затраты, и это наиболее ярко отражено в OpenAI. С точки зрения затрат, если vivo хочет превратить BlueLM в долгосрочную экосистему, самостоятельно созданная IDC, очевидно, более благоприятна для долгосрочной разработки, чем миграция в облако.
Что касается аппаратного обеспечения, Huawei и Apple, два ведущих производителя, уже интегрировали возможности NPU собственной разработки в свои существующие продуктовые линейки, в то время как vivo все еще приходится полагаться на производителей чипов. Несмотря на то, что при обучении и настройке моделей могут быть созданы определенные барьеры, разрыв в аппаратном обеспечении в качестве ядра по-прежнему приводит к нескольким позициям у ведущих производителей.
Битва на терминале большой модели
Добавление большой модели заставляет нас заново осознать, что суть смартфона заключается в умном терминале, который объединяет множество возможностей, и у него есть как аппаратные, так и операционные входы. Уникальные условия делают естественным сочетание мобильных телефонов с большими моделями.
Итак, могут ли другие терминалы также быть подключены к большой модели и переопределить границы возможностей терминала так же, как переделывать приложение?
Исследование этой проблемы можно проследить до появления сетей глубокого обучения, а обсуждение возможности конечных моделей также связано с «клише» проблем задержки, энергопотребления, конфиденциальности и других вопросов в отрасли.
На самом деле, задолго до официального начала этого повального увлечения запихиванием больших моделей в мобильные телефоны, автомобили на новых источниках энергии с автономным вождением уже стали терминалом больших моделей. В индустрии нет недостатка в воображении, что умные носимые устройства оснащены большими моделями, но мобильные телефоны, похоже, вот-вот выйдут на первое место с разнообразием сцен и удобством сети.
Кроме того, когда производители мобильных телефонов будут интенсивно выпускать большие модели и вводить их в эксплуатацию, это станет отличной тренировочной площадкой для торцевых моделей. Мы также можем обсудить методику установки различных терминалов, оснащенных большими моделями, от посадки мобильных телефонов больших моделей.
Ведь какой бы хорошей ни была модель на телефоне, лучшая производительность, которой можно добиться за короткий промежуток времени, является не более чем «секретарем» в сфере жизни пользователя. Фантазия, привнесенная большой моделью других смарт-терминалов, несомненно, больше.
Например, банкоматы, которые постепенно сходят с исторической сцены благодаря мобильным платежам, могут полагаться на большие модели, чтобы позволить пользователям пропустить банк, чтобы встать в очередь за углубленным бизнесом; Это также интеллектуальная камера, которая относится к сценарию B-end, которая определяет основные признаки пациентов в медицинской сфере, быстрый контроль качества в промышленной области и интеллектуальное орошение в сельскохозяйственной сфере. Теперь рынок B-end, который не был широко открыт за счет использования облачной модели, также может привести к появлению переменной конечной стороны.
Именно поэтому vivo покажет на этой пресс-конференции операционную систему Blue River (BlueOS), оснащенную новыми vivo Watch, хотя ее экология не так идеальна, как у Huawei и Xiaomi. Как кросс-терминальная система, разработанная vivo для эпохи общего искусственного интеллекта, ее запуск направлен на управление серией продуктов IoT через мобильные телефоны, которые, несомненно, обладают хорошей фантазией.
vivo также объявила об открытом исходном коде своей модели спецификации 7B и выпустила комплект разработчика BlueKit, который является явной амбицией в области экологического строительства. Возможно, в настоящее время vivo только достигла той стадии, когда IoT понимает инструкции, но это очень важно для будущих высокотехнологичных, экологических и других стратегий vivo.
Возможности модели мобильного телефона неизвестны, и есть много вызовов, и после официального релиза и приземления она обязательно принесет в отрасль более «открытые» направления. Более причудливые позы для приземления ждут, когда индустрия разблокирует их.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Телефон напичкан крупными моделями, и это только начало
Первоисточник: Photon Planet
Производители мобильных телефонов, которым срочно нужно найти новый маховик, присматриваются к крупным моделям.
На конференции разработчиков в начале августа Huawei объявила, что интегрирует Xiaoyi, помощника с искусственным интеллектом в HarmonyOS 4, в большую модель, и предложила протестировать ее в конце августа. Xiaomi также открыла тест приглашения своего помощника с искусственным интеллектом Xiaoai, чтобы получить доступ к большой модели примерно в то же время. За ними последовали OPPO и vivo, которые начали экспериментировать с большими моделями мобильных телефонов в ноябре.
"Запихивание больших моделей в мобильные телефоны" не является чем-то новым в отрасли,Не говоря уже о vivo, который интенсивно разогревается с середины октября,Rongmi O три раскрыли соответствующие новости на пресс-конференции, состоявшейся в этом году。 Общее мнение в отрасли заключается в том, что аппаратная часть смартфонов практически не сворачивается, а большинство больших моделей, работающих в облаке, являются просто переменной, свободной от аппаратного обеспечения.
Следует отметить, что развертывание на стороне устройства также является отраслевой тенденцией для дорожек больших моделей. Возьмем в качестве примера ChatGPT как типичного представителя облачной большой модели, ее обучение и вывод выполняются в Microsoft Azure, а пользователи получают результаты через браузеры или приложения. Между вводом-выводом и возвратом происходит не только задержка, которая влияет на взаимодействие с пользователем, но и затраты на облако, такие как энергопотребление и вычислительная мощность.
С точки зрения реальных сценариев и потребностей, многие потребности могут быть удовлетворены с помощью периферийных устройств, особенно терминалов, которые широко используются, таких как мобильные телефоны, ПК и транспортные средства на новых источниках энергии.
В результате, конечное развертывание больших моделей постепенно стало консенсусом, не только производители мобильных телефонов приковали свои усилия к обучению моделей, но и Lenovo на треке ПК и Qualcomm на треке чипов некоторое время назад выпустили соответствующие решения для конечного ИИ. В частности, только что вышедшие Qualcomm Snapdragon 8 Gen3 и MediaTek Dimensity 9300, улучшение их производительности ИИ, можно сказать, лежит в основе большой модели на мобильном телефоне.
Потребности отрасли и аппаратные условия были удовлетворены, и большая модель, наконец, может войти в мобильные телефоны. Что довольно удивительно, так это то, что первым производителем мобильных телефонов, выпустившим «законченный продукт», стала компания vivo.
**В каком состоянии находится большая модель vivo? **
1 ноября компания vivo провела конференцию разработчиков, на которой представила матрицу собственной разработки большой модели «BlueLM», включающую шкалы 1 миллиарда, 10 миллиардов, 100 миллиардов и другие различные шкалы параметров. В то же время она также выпустила OriginOS 4, операционную систему собственной разработки, адаптированную к своей большой модели.
Перед лицом «земли обетованной» крупных моделей рвение vivo почти написано на его лице.
Согласно последним данным, опубликованным агентством маркетинговых исследований Canalys, 26 октября поставки vivo и отгрузки снизились, и рейтинг также упал. vivo срочно нужны большие модели и OriginOS 4, чтобы переломить ситуацию, и неудивительно, что она будет первой, кто «откроет книгу».
И по сравнению с большой моделью, диапазон обновления OriginOS 4, запущенной vivo, на этот раз немного слабый. В обсуждении общественного достояния не только итерация его виртуальной видеокарты, неоднородное вычислительное пространство и легкость не соответствуют ожиданиям, но и такие модули, как атомарное уведомление, которое довольно громко звучит среди пользователей vivo, не были обновлены. Другими словами, большая модель является главным героем этой конференции.
С точки зрения бизнес-модели, путь vivo на этой пресс-конференции аналогичен пути других игроков в отрасли, с помощником искусственного интеллекта в качестве носителя, использующего гибридный метод развертывания на стороне устройства + облака, в котором большая модель на стороне устройства, которая является основной игрой, представляет собой очевидные характеристики локализации и легкости.
Цель этого очевидна, энергопотребление и вычислительная мощность, обеспечиваемые маленьким миром мобильных телефонов, не такие, как в компьютерном зале. Просто то, как совместить возможности модели с глубиной мобильного телефона, стало «ноу-хау», которое производителям мобильных телефонов срочно нужно прорвать.
В связи с этим решение vivo заключается в запуске многопараметрической модели спецификаций, из которых 1 миллиард спецификаций в основном предназначены для текстовых сценариев, а 7 миллиардов спецификаций для естественного диалога и телеобъектива с вопросами и ответами на знание являются основными моментами развертывания на стороне устройства. В официальном введении спецификации 1 миллиарда отдельно ориентированы на сторону устройства, а спецификации на 7 миллиардов настроены как на двойное назначение для устройства и облака, и все они были развернуты в облаке с 70 миллиардов, что также отражает матричную идею vivo «пусть Бог вернется к Богу, а Цезарь — к Цезарю» в сотрудничестве устройства и облака.
Это то же самое, что и на конференции разработчиков Google I/O в мае этого года, когда Google выпустила большую модель PaLM2 с четырьмя спецификациями параметров, из которых модель с малыми параметрами может обрабатывать 20 токенов в секунду в автономном состоянии, что подходит для автономного использования терминалов.
Если вы думаете, что vivo «ковыряет людям зубы», то это слишком резко. На самом деле, vivo намеревалась создать внутреннюю команду ИИ еще в 2017 году, и сегодня в Научно-исследовательском институте искусственного интеллекта vivo работает более 1000 исследователей.
Несмотря на то, что его техническое осаждение в целом уступает первому эшелону, такому как Ali и Baidu, существование сообщества с открытым исходным кодом также позволяет игрокам, которые выходят на рынок чуть позже, быстро догнать большую армию. Исследовательский институт Knowledge Graph Research Institute, созданный vivo в 2018 году, также может в определенной степени восполнить недостаток обучающих данных, с которым он может столкнуться как производитель мобильных телефонов.
Что касается способности модели, то vivo сдал хороший лист ответов в период разминки. Сообщается, что BlueLM завоевала первое место в категории «модель ограниченного доступа» в стороннем оценочном наборе C-of Chinese large model. Согласно официальному объявлению, BlueLM является первой в отрасли большой моделью 7B.
Тем не менее, есть немало моделей, которые набрали высокие баллы в оценке, но имеют неудовлетворительную фактическую производительность, и некоторые люди в отрасли говорят, что этот список был «отмахнут» за прошедший период времени, что может представлять только способность модели «отвечать на вопросы» и не может отражать способность к рассуждению, безопасность и адаптивность. С этой точки зрения понятно, что бизнес-результаты vivo нуждаются в более практических проверках.
Более того, текущие возможности облачных моделей vivo, такие как диаграмма Вэньшэна и взаимодействие, не выскочили из ловушки больших моделей, и новизна ограничена. Более того, возможности его модели на стороне устройства все еще находятся на стадии тестирования, а отображение возможностей на стороне устройства неизбежно ограничено аппаратным обеспечением мобильного телефона.
Мы узнали, что многие пользователи, которых пригласили принять участие во внутреннем тестировании Blue Heart, используют флагманские телефоны в лице X90 Pro, и эти модели также являются самыми высокими в графике адаптации публичных бета-версий для масштабных модельных приложений, выпущенных vivo.
Нет никаких сомнений в том, что большие модели становятся вторым полем битвы для производителей мобильных телефонов, открывающим для себя высококлассные сегменты, и они также являются важной переменной для оживления пользователей и активации IoT. Несмотря на это, в намерении vivo увеличить ценность высококачественных продуктов, полагаясь на большие модели по-прежнему есть много переменных
В конечном счете, запуск большой модели является не только новым краеугольным камнем высокого класса vivo, но и попыткой привлечь новые машины и продукты высокого класса.
Бюджетным моделям, естественно, сложно справиться с этой войной высокого класса. Возьмем в качестве примера базовую модель Y100, выпущенную vivo перед этой пресс-конференцией, это одна из последних моделей в вышеупомянутом плане адаптации, и за таким подобным «ударом в спину» стоит надежда vivo на возвращение на трон с высококлассными продуктами.
Тем не менее, запуск больших моделей по-прежнему не является плюсом для высококлассных продуктов vivo.
Ван Ян (Wang Yang) (псевдоним), предприниматель сообщества с открытым исходным кодом, занимающийся разработкой большой модели на стороне устройства, рассказал Photon Planet, что возможности большой модели на стороне устройства заключаются в производительности искусственного интеллекта, обеспечиваемой его NPU (процессором, специально разработанным для вычислений на основе глубоких нейронных сетей). Однако в предыдущих моделях vivo не обращали внимания на возможности NPU, поэтому вполне вероятно, что старшим моделям будет сложно плавно запускать большие модели.
Что касается предстоящего релиза, то новая модель серии vivo X100, оснащенная флагманским чипом MediaTek Dimensity 9300 и процессором искусственного интеллекта нового поколения, возможно, сможет плавно использовать возможности модели, но в случае, если на рынке уже есть крупные модельные приложения, такие как Wenxin Yiyan и iFLYTEK Xinghuo, оставшееся пространство для мобильного телефона не так велико, как представлялось. По сравнению со способностями, пожалуй, геймплей, показанный vivo в этот раз, более достоин углубленного изучения.
**Сделать свой телефон умнее? **
Кевин Скотт (Kevin Scott), технический директор Microsoft, который подтолкнул Microsoft стать бизнес-ангелом в OpenAI, публично заявил, что сама модель является не продуктом, а инфраструктурой. Подразумевается, что после того, как тренинг отладит модельную базу, исследование продуктизации станет ядром «второго предпринимательства» многих игроков.
«Репродуктизация» больших моделей на мобильных телефонах является чем-то само собой разумеющимся, но большие модели, используемые на мобильных телефонах, все еще нуждаются в дальнейшем производстве. Судя по информации, представленной до сих пор, vivo будет реализовывать возможности больших моделей с помощью приложения под названием Xiao V assistant, и в настоящее время основной путь в отрасли заключается в том, чтобы встроить возможности больших моделей в существующий помощник с искусственным интеллектом.
Пользователи смартфонов испытывают реальную потребность в способности понимать большие модели, будь то умный помощник, в шутку называемый «искусственной умственной отсталостью», или все более раздутое приложение и данные в условиях взрывного роста емкости, мобильные телефоны должны быть в состоянии лучше понимать взаимодействие и помогать пользователям сортировать информацию. Добавление больших моделей, по сути, призвано привнести в мобильные телефоны возможности понимания естественного языка.
В случае нереализованной реализации такие проблемы, как энергопотребление, рассеивание тепла и задержки, которые могут возникнуть в модели на стороне устройства, могут быть проигнорированы на некоторое время. По мнению Ван Яна, основная проблема, с которой сталкивается модель vivo, заключается в том, как различать границы возможностей различных моделей и как их называть, когда несколько моделей используются вместе, «что связано с конечной формой продукта и его представлением».
Перед лицом C-стороны с обобщенными сценариями и сложными требованиями модели, вызываемые разными требованиями, различаются. Например, модели спецификаций 1 млрд и 7 млрд спецификаций на стороне устройства должны обучаться на основе локальных данных пользователя, чтобы «лучше понять пользователя». Поэтому важным показателем является то, можно ли использовать возможности модели и адаптированную к ней ОС для реализации сложных инструкций на мобильном телефоне.
До сих пор комплексная командная функция, демонстрируемая BlueLM, была достаточно изюминкой. В недавно выпущенной OriginOS 4 V-assistant находится в правом нижнем углу боковой панели, и его можно открыть, щелкнув по нему. Мало того, что логика работы короче, чем у облачной модели, которая больше подходит для использования мобильным телефоном, так еще и некоторые сложные инструкции в ОС, такие как интеллектуальный поиск альбомов, предварительное выполнение сторонних команд приложений и настройки в ОС.
Стоит отметить, что маленький V-помощник изолирован от существующего голоса Jovi от vivo с точки зрения функций и пути, и они независимы друг от друга, что, очевидно, отличается от большого пути модели на стороне устройства, предложенного другими производителями ранее.
С функциональной точки зрения, маленький V-помощник может в основном обеспечить полный охват голоса Джови, поэтому цель различения этих двух компонентов, скорее всего, будет заключаться в том, чтобы помочь пользователям почувствовать разницу между ними. Более того, продуктовая логика маленького V-помощника похожа на логику Copilot, которая находится в семейной корзине Microsoft, и два разных пути, вероятно, будут интегрированы в будущем.
Это также отражает тот факт, что текущий BlueLM все еще находится на стадии тестирования, а форму продукта трудно назвать зрелой.
Согласно отзывам тех, кто участвовал во внутреннем тестировании BlueLM, с модельными возможностями флагманской модели vivo все еще существует задержка в 2 с~ 5 секунд в требовании генерации открытого текста в пределах 20 токенов, что не является хорошей новостью для последующей реализации - задержка облачной модели не была хорошо решена. Это может быть улучшено в моделях, оснащенных новейшими чипами искусственного интеллекта от производителей чипов, но для потребителей это не является поводом для смены телефона.
Кроме того, будучи первой в отрасли моделью мобильного телефона, облачная модель vivo также сталкивается с «окружением» крупных моделей многих поставщиков облачных услуг.
Например, vivo объявила, что запустит разговорного робота Lanxin Qianxun в магазине приложений, а спецификации в 175 миллиардов параметров не бросаются в глаза по сравнению с большими моделями в текущих магазинах приложений. Среди поставщиков облачных услуг Baidu уже взимает плату за недавно выпущенную профессиональную версию Wenxin 4.0, чтобы протестировать почву, в то время как Lanxin Qianxun, похоже, является не очень привлекательным членом экосистемы больших моделей vivo, и его путь, очевидно, затруднен и долог.
Следует отметить, что vivo поздно появилась, и разрыв в технологических осадках также будет ограничивать дальнейшее продвижение ее крупномасштабного модельного бизнеса.
С точки зрения программного обеспечения, большая модель vivo стала рекламным материалом платформы машинного обучения Pai от Alibaba Cloud, и мы даже можем найти тень «Тунъи Цяньвэнь» от имени «Голубое сердце Цяньвэнь». Работа в облаке означает долгосрочные затраты, и это наиболее ярко отражено в OpenAI. С точки зрения затрат, если vivo хочет превратить BlueLM в долгосрочную экосистему, самостоятельно созданная IDC, очевидно, более благоприятна для долгосрочной разработки, чем миграция в облако.
Что касается аппаратного обеспечения, Huawei и Apple, два ведущих производителя, уже интегрировали возможности NPU собственной разработки в свои существующие продуктовые линейки, в то время как vivo все еще приходится полагаться на производителей чипов. Несмотря на то, что при обучении и настройке моделей могут быть созданы определенные барьеры, разрыв в аппаратном обеспечении в качестве ядра по-прежнему приводит к нескольким позициям у ведущих производителей.
Битва на терминале большой модели
Добавление большой модели заставляет нас заново осознать, что суть смартфона заключается в умном терминале, который объединяет множество возможностей, и у него есть как аппаратные, так и операционные входы. Уникальные условия делают естественным сочетание мобильных телефонов с большими моделями.
Итак, могут ли другие терминалы также быть подключены к большой модели и переопределить границы возможностей терминала так же, как переделывать приложение?
Исследование этой проблемы можно проследить до появления сетей глубокого обучения, а обсуждение возможности конечных моделей также связано с «клише» проблем задержки, энергопотребления, конфиденциальности и других вопросов в отрасли.
На самом деле, задолго до официального начала этого повального увлечения запихиванием больших моделей в мобильные телефоны, автомобили на новых источниках энергии с автономным вождением уже стали терминалом больших моделей. В индустрии нет недостатка в воображении, что умные носимые устройства оснащены большими моделями, но мобильные телефоны, похоже, вот-вот выйдут на первое место с разнообразием сцен и удобством сети.
Кроме того, когда производители мобильных телефонов будут интенсивно выпускать большие модели и вводить их в эксплуатацию, это станет отличной тренировочной площадкой для торцевых моделей. Мы также можем обсудить методику установки различных терминалов, оснащенных большими моделями, от посадки мобильных телефонов больших моделей.
Ведь какой бы хорошей ни была модель на телефоне, лучшая производительность, которой можно добиться за короткий промежуток времени, является не более чем «секретарем» в сфере жизни пользователя. Фантазия, привнесенная большой моделью других смарт-терминалов, несомненно, больше.
Например, банкоматы, которые постепенно сходят с исторической сцены благодаря мобильным платежам, могут полагаться на большие модели, чтобы позволить пользователям пропустить банк, чтобы встать в очередь за углубленным бизнесом; Это также интеллектуальная камера, которая относится к сценарию B-end, которая определяет основные признаки пациентов в медицинской сфере, быстрый контроль качества в промышленной области и интеллектуальное орошение в сельскохозяйственной сфере. Теперь рынок B-end, который не был широко открыт за счет использования облачной модели, также может привести к появлению переменной конечной стороны.
Именно поэтому vivo покажет на этой пресс-конференции операционную систему Blue River (BlueOS), оснащенную новыми vivo Watch, хотя ее экология не так идеальна, как у Huawei и Xiaomi. Как кросс-терминальная система, разработанная vivo для эпохи общего искусственного интеллекта, ее запуск направлен на управление серией продуктов IoT через мобильные телефоны, которые, несомненно, обладают хорошей фантазией.
vivo также объявила об открытом исходном коде своей модели спецификации 7B и выпустила комплект разработчика BlueKit, который является явной амбицией в области экологического строительства. Возможно, в настоящее время vivo только достигла той стадии, когда IoT понимает инструкции, но это очень важно для будущих высокотехнологичных, экологических и других стратегий vivo.
Возможности модели мобильного телефона неизвестны, и есть много вызовов, и после официального релиза и приземления она обязательно принесет в отрасль более «открытые» направления. Более причудливые позы для приземления ждут, когда индустрия разблокирует их.