«Подожди минутку, подожди минутку, ты хочешь снять еще один PPT!»
Ранним утром 25 октября по пекинскому времени в своей вступительной речи на саммите Qualcomm Snapdragon Summit 2023 года президент и генеральный директор Qualcomm Кристиано Амон торжественно представил процессор Snapdragon X Elite Orion. В презентации PPT новый процессор не только затмил Apple M2 Max и Intel i9-13980HX, два самых мощных процессора в мире, но и имел более низкое пиковое энергопотребление, чем два предыдущих.
В то же время, помимо того, что Qualcomm сделала себе имя на стороне ПК, в тот же день Qualcomm также представила процессор Snapdragon 8 Gen 3. Будучи новейшим мобильным чипом, Snapdragon 8 Gen 3 не только повышает производительность, но и оптимизирует генеративную обработку искусственного интеллекта и даже может напрямую запускать модели с десятками миллиардов параметров**.
На рынке и за его пределами генеральные директора и президенты гигантов потребительской электроники, таких как Microsoft, Meta, Google, HP, Lenovo и Xiaomi, выступали за Qualcomm. Среди них президент Xiaomi Group Лу Вэйбин не только показал на сцене грядущий флагман Xiaomi 14, но и официально анонсировал, что автомобили Xiaomi будут запущены в 2024 году.
Новые чипы серии PC, чип Snapdragon 8 Gen 3, делают «терминальный ИИ», подчеркиваемый Qualcomm, реальностью в пределах досягаемости.
01 Snapdragon X Elite, прямиком на Apple Intel
В центре внимания всей аудитории в тот день был не кто иной, как Snapdragon X Elite.
Для поддержки будущих высоконагруженных интеллектуальных задач Qualcomm представила самый мощный вычислительный процессор компании на сегодняшний день для ПК: Snapdragon X Elite, с процессорами Oryon непосредственно для Intel и Apple.
Созданный для искусственного интеллекта, Snapdragon X Elite** интегрирует новый специализированный процессор Qualcomm Orion, поддерживает модели генеративного искусственного интеллекта с более чем 13 миллиардами параметров, работающих на стороне терминала**, обрабатывая в 4,5 раза быстрее, чем конкурирующие продукты, и может генерировать 30 токенов в секунду для моделей с 7 миллиардами параметров. По данным Qualcomm, этот мобильный вычислительный процессор работает в два раза лучше, чем конкуренты, потребляя всего одну треть энергопотребления при той же пиковой производительности.
Snapdragon X Elite может генерировать 30 токенов в секунду для моделей с 7 миллиардами параметров
— Поторопись и сфотографируйся. Генеральный директор Qualcomm Эймон заявил на саммите, что однопоточная производительность процессоров Oryon превосходит Apple M2 Max и Intel i9-13980HX, а пиковое энергопотребление производительности на 30% меньше, чем у M2 Max и на 70% меньше, чем у i9-13980HX.
Однопоточная производительность процессоров Oryon превосходит процессоры Apple M2 Max | Qualcomm
Что касается многопоточной производительности, Qualcomm также сравнила Intel i7-1355U и i7-1360P, заявив, что производительность Snapdragon X Elite может быть в два раза выше**, а пиковое энергопотребление может быть на 68% меньше; Существует также процессор Intel i7-13800H, который, как утверждается, превосходит его на 60% по производительности и на 65% меньше по пиковому энергопотреблению. Кроме того, Qualcomm также сосредоточилась на сравнении Apple M2, подчеркнув, что производительность Snapdragon X Elite превосходит ее на 50%.
Производительность Snapdragon X Elite превосходит производительность Apple M2 на 50% | Qualcomm
Кедар Кондап (Kedar Kondap), старший вице-президент и генеральный менеджер по вычислительным ресурсам и играм в Qualcomm Technologies, сказал: «Snapdragon X Elite знаменует собой квантовый скачок вперед в инновациях в области вычислительных технологий, а новый специализированный процессор Qualcomm Oryon обеспечивает невероятную энергоэффективность для потребителей и выводит творчество и производительность на совершенно новый уровень. Мощный искусственный интеллект на конечной стороне обеспечит бесперебойную многозадачность и новый интуитивно понятный пользовательский интерфейс, позволяя потребителям и предприятиям творить и развиваться».
Производительность Snapdragon X Elite |
Сообщается, что OEM-производители должны выпустить ПК с Snapdragon X Elite в середине 2024 года.
02 Snapdragon 3-го поколения 8,1 секунд для генерации изображения Stable Diffusion
На саммите Qualcomm также представила первую мобильную платформу, тщательно разработанную для генеративного ИИ: Snapdragon 8 Gen 3.
По сравнению с предыдущим поколением, Snapdragon 8 третьего поколения имеет на 30% более высокую производительность процессора, на 25% более высокую производительность графического процессора и на 25% более высокую производительность NPU, поддерживая запуск моделей генеративного ИИ с 10 миллиардами параметров. **Предполагается, что Stable Diffusion работает на смартфонах, поэтому для создания изображений с текстом требуется менее 1 секунды.
Производительность Snapdragon 8 3-го поколения | Qualcomm
Крис Патрик (Chris Patrick), старший вице-президент и генеральный менеджер по мобильным телефонам в Qualcomm Technologies, сказал: «Платформа откроет новую эру генеративного искусственного интеллекта, позволяя пользователям создавать уникальный контент, помогать повышать производительность и обеспечивать другие прорывные варианты использования».
Судя по живой демонстрации, Snapdragon 8 Gen 3 будет поддерживать некоторые удобные и креативные инструменты камеры с искусственным интеллектом, включая такие функции, как удаление объектов из видео, расширение области фотографии и создание виртуальных фонов.
Сообщается, что Snapdragon 8 будет широко использоваться на терминалах мировых OEM-производителей и брендов смартфонов, включая Asus, Honor, iQOO, Meizu, NIO, Nubia, OnePlus, OPPO, Realme, Redmi, Red Devil, Sony, vivo, Xiaomi и ZTE.
Президент Xiaomi Group Лу Вейбин также появился на саммите на Гавайях, чтобы продемонстрировать предстоящий выпуск мобильного телефона Mi 14, оснащенного процессором Snapdragon 8 третьего поколения, а также «долгосрочный рост стратегии искусственного интеллекта» Xiaomi. Согласно ему, в серии Xiaomi 14 состоится мировая премьера мобильной платформы Snapdragon 8 третьего поколения.
Президент Xiaomi Лу Вэйбин на саммите Hawaii Snapdragon Summit | Qualcomm
Помимо Xiaomi, по словам руководителей различных производителей, NIO и Qualcomm на базе платформы Snapdragon в автомобиле и мобильных телефонах углубленное сотрудничество, киберспортивный мобильный телефон Red Devil будет оснащен третьим поколением Snapdragon 8, грядущий realme GT5 Pro также будет оснащен этим флагманским чипом, vivo и iQOO выпустят флагманские продукты, оснащенные третьим поколением Snapdragon 8, ZTE на базе третьего поколения флагманского мобильного телефона Snapdragon 8 nubia скоро будет доступен.
Производительность Snapdragon 8 3-го поколения | Qualcomm
По данным Qualcomm, флагманские Android-терминалы, оснащенные Snapdragon 8 третьего поколения, как ожидается, будут доступны в ближайшие недели.
03 Эра «терминального ИИ»
Продвижение генеративного ИИ в различных категориях терминалов, включая широкий спектр потребительской электроники, стало самой большой целью Qualcomm в этом году.
«Мы вступаем в эру ИИ, и генеративный ИИ на конечной стороне имеет решающее значение для создания мощного, быстрого, персонализированного, эффективного, безопасного и высокооптимизированного опыта. **», — сказал генеральный директор Qualcomm Амон Анменг.
Snapdragon X Elite, Snapdragon 8 третьего поколения, анонсированный на саммите Snapdragon, как говорят, способен справляться с задачами генеративного искусственного интеллекта на экстремальных скоростях, например, чат-помощник на стороне терминала для ПК с Windows 11 может обрабатывать 30 токенов в секунду, а для создания изображений на смартфонах с помощью Stable Diffusion требуется менее секунды.
По словам Зиада Асгара, старшего вице-президента по управлению продуктами Qualcomm, появление мультимодального ИИ меняет способ взаимодействия людей с устройствами: «Полностью функционирует на конечных устройствах, что означает, что вы можете летать на самолете и по-прежнему использовать генеративный ИИ». И «это, безусловно, только начало этой революции».
По словам Асгара, «генеративный ИИ в облаке сталкивается со многими проблемами, которые могут быть решены с помощью обработки на устройстве». Например, некоторые компании интегрируют проприетарный код в инструменты GPT для обнаружения ошибок в коде. В будущем ПК смогут использовать информацию, известную устройству, такую как статус пользователя, предпочтения, календарь и возраст, в сочетании с запросами генеративного ИИ для улучшения возможностей генеративного ИИ, которые «намного превосходят облако».
Более того, по сравнению с интерактивным игровым процессом, где люди передают личную информацию различным чат-ботам, самым большим преимуществом ИИ, работающего на устройствах, является: конфиденциальность, и нет необходимости передавать частную контекстную информацию в облако для обработки. Кроме того, преимущество оперативности заключается в том, что вам не нужно ждать, пока информация вернется из облака.
Но есть еще одна ключевая проблема с запуском ИИ в терминале: что, если вывод модели требует много вычислений?
По словам руководителей Qualcomm, 16-битные или 32-битные числа с плавающей запятой обычно используются при обучении больших языковых моделей в облаке, что приводит к вычислительным вычислениям для каждого вывода модели. Вместо этого они сосредоточились на сжатии моделей, квантовании и обрезке, таких как использование только 4 бит, экономия энергии и возможность выполнять более одновременную обработку ИИ на устройствах, заявив, что «рост больших языковых моделей за последние несколько месяцев доказал стратегии уменьшения моделей путем их квантования».
Кроме того, со временем люди продолжали совершенствовать алгоритм и модель стала становиться меньше. Еще один подход, который будут использовать люди, — это «предметно-ориентированные модели», где модели обучаются для конкретных приложений, «модели могут стать очень маленькими и иметь очень высокую точность».
«Основываясь на многолетних исследованиях и разработках Qualcomm в области искусственного интеллекта, включая сочетание CPU, NPU и GPU с отличной производительностью терминала, а также нашу поддержку локальной работы многих ведущих моделей, мы можем донести преимущества генеративного ИИ до пользователей по всему миру и до различных конечных категорий», — сказал Амон.
В то же время, чтобы позволить терминалам Snapdragon, использующим Android, Windows и другие операционные системы, обнаруживать друг друга и достигать бесшовного взаимодействия между несколькими терминалами, Qualcomm представила кроссплатформенную технологию Snapdragon Seamless на саммите Snapdragon.
Кроссплатформенная технология Snapdragon Seamless |
По данным Deloitte Connected Consumer Survey, в настоящее время каждое домохозяйство в США имеет в среднем 21 цифровой терминал, но передача информации между различными терминалами, особенно между терминалами разных производителей, часто не проходит гладко. Это ограничит потребительский выбор и приведет к эффекту блокировки, когда потребители должны покупать товары только у одного и того же производителя, чтобы работать вместе между своими терминалами.
С помощью Snapdragon Seamless несколько терминалов могут работать как единое целое, например: мышь и клавиатура могут беспрепятственно использоваться на ПК, мобильных телефонах и планшетах; Файлы и окна можно перетаскивать между различными типами терминалов; Наушники можно интеллектуально переключать в соответствии с приоритетом источника звука; XR предлагает расширенный функционал для смартфонов.
Сообщается, что в будущем Snapdragon Seamless расширится до XR, автомобильных и IoT-платформ. Такие компании, как Microsoft, Android, Xiaomi, Asus, Honor, Lenovo и OPPO, работают с Qualcomm над внедрением Snapdragon Seamless, технологии, которая появится на терминальных платформах, выпущенных по всему миру уже в этом году.
От смартфонов, устройств дополненной реальности, автомобилей до персональных компьютеров началось проникновение генеративного ИИ в широкий спектр конечных устройств с помощью чипов. Qualcomm является самым важным, первым и самым важным шагом в продвижении «терминального ИИ» для всех потребителей.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Удар Apple, пинок чипов Intel, Qualcomm — будущее ИИ
Первоисточник: Geek Park
«Подожди минутку, подожди минутку, ты хочешь снять еще один PPT!»
Ранним утром 25 октября по пекинскому времени в своей вступительной речи на саммите Qualcomm Snapdragon Summit 2023 года президент и генеральный директор Qualcomm Кристиано Амон торжественно представил процессор Snapdragon X Elite Orion. В презентации PPT новый процессор не только затмил Apple M2 Max и Intel i9-13980HX, два самых мощных процессора в мире, но и имел более низкое пиковое энергопотребление, чем два предыдущих.
В то же время, помимо того, что Qualcomm сделала себе имя на стороне ПК, в тот же день Qualcomm также представила процессор Snapdragon 8 Gen 3. Будучи новейшим мобильным чипом, Snapdragon 8 Gen 3 не только повышает производительность, но и оптимизирует генеративную обработку искусственного интеллекта и даже может напрямую запускать модели с десятками миллиардов параметров**.
На рынке и за его пределами генеральные директора и президенты гигантов потребительской электроники, таких как Microsoft, Meta, Google, HP, Lenovo и Xiaomi, выступали за Qualcomm. Среди них президент Xiaomi Group Лу Вэйбин не только показал на сцене грядущий флагман Xiaomi 14, но и официально анонсировал, что автомобили Xiaomi будут запущены в 2024 году.
Новые чипы серии PC, чип Snapdragon 8 Gen 3, делают «терминальный ИИ», подчеркиваемый Qualcomm, реальностью в пределах досягаемости.
01 Snapdragon X Elite, прямиком на Apple Intel
В центре внимания всей аудитории в тот день был не кто иной, как Snapdragon X Elite.
Для поддержки будущих высоконагруженных интеллектуальных задач Qualcomm представила самый мощный вычислительный процессор компании на сегодняшний день для ПК: Snapdragon X Elite, с процессорами Oryon непосредственно для Intel и Apple.
Созданный для искусственного интеллекта, Snapdragon X Elite** интегрирует новый специализированный процессор Qualcomm Orion, поддерживает модели генеративного искусственного интеллекта с более чем 13 миллиардами параметров, работающих на стороне терминала**, обрабатывая в 4,5 раза быстрее, чем конкурирующие продукты, и может генерировать 30 токенов в секунду для моделей с 7 миллиардами параметров. По данным Qualcomm, этот мобильный вычислительный процессор работает в два раза лучше, чем конкуренты, потребляя всего одну треть энергопотребления при той же пиковой производительности.
— Поторопись и сфотографируйся. Генеральный директор Qualcomm Эймон заявил на саммите, что однопоточная производительность процессоров Oryon превосходит Apple M2 Max и Intel i9-13980HX, а пиковое энергопотребление производительности на 30% меньше, чем у M2 Max и на 70% меньше, чем у i9-13980HX.
Что касается многопоточной производительности, Qualcomm также сравнила Intel i7-1355U и i7-1360P, заявив, что производительность Snapdragon X Elite может быть в два раза выше**, а пиковое энергопотребление может быть на 68% меньше; Существует также процессор Intel i7-13800H, который, как утверждается, превосходит его на 60% по производительности и на 65% меньше по пиковому энергопотреблению. Кроме того, Qualcomm также сосредоточилась на сравнении Apple M2, подчеркнув, что производительность Snapdragon X Elite превосходит ее на 50%.
Кедар Кондап (Kedar Kondap), старший вице-президент и генеральный менеджер по вычислительным ресурсам и играм в Qualcomm Technologies, сказал: «Snapdragon X Elite знаменует собой квантовый скачок вперед в инновациях в области вычислительных технологий, а новый специализированный процессор Qualcomm Oryon обеспечивает невероятную энергоэффективность для потребителей и выводит творчество и производительность на совершенно новый уровень. Мощный искусственный интеллект на конечной стороне обеспечит бесперебойную многозадачность и новый интуитивно понятный пользовательский интерфейс, позволяя потребителям и предприятиям творить и развиваться».
Сообщается, что OEM-производители должны выпустить ПК с Snapdragon X Elite в середине 2024 года.
02 Snapdragon 3-го поколения 8,1 секунд для генерации изображения Stable Diffusion
На саммите Qualcomm также представила первую мобильную платформу, тщательно разработанную для генеративного ИИ: Snapdragon 8 Gen 3.
По сравнению с предыдущим поколением, Snapdragon 8 третьего поколения имеет на 30% более высокую производительность процессора, на 25% более высокую производительность графического процессора и на 25% более высокую производительность NPU, поддерживая запуск моделей генеративного ИИ с 10 миллиардами параметров. **Предполагается, что Stable Diffusion работает на смартфонах, поэтому для создания изображений с текстом требуется менее 1 секунды.
Крис Патрик (Chris Patrick), старший вице-президент и генеральный менеджер по мобильным телефонам в Qualcomm Technologies, сказал: «Платформа откроет новую эру генеративного искусственного интеллекта, позволяя пользователям создавать уникальный контент, помогать повышать производительность и обеспечивать другие прорывные варианты использования».
Судя по живой демонстрации, Snapdragon 8 Gen 3 будет поддерживать некоторые удобные и креативные инструменты камеры с искусственным интеллектом, включая такие функции, как удаление объектов из видео, расширение области фотографии и создание виртуальных фонов.
Сообщается, что Snapdragon 8 будет широко использоваться на терминалах мировых OEM-производителей и брендов смартфонов, включая Asus, Honor, iQOO, Meizu, NIO, Nubia, OnePlus, OPPO, Realme, Redmi, Red Devil, Sony, vivo, Xiaomi и ZTE.
Президент Xiaomi Group Лу Вейбин также появился на саммите на Гавайях, чтобы продемонстрировать предстоящий выпуск мобильного телефона Mi 14, оснащенного процессором Snapdragon 8 третьего поколения, а также «долгосрочный рост стратегии искусственного интеллекта» Xiaomi. Согласно ему, в серии Xiaomi 14 состоится мировая премьера мобильной платформы Snapdragon 8 третьего поколения.
Помимо Xiaomi, по словам руководителей различных производителей, NIO и Qualcomm на базе платформы Snapdragon в автомобиле и мобильных телефонах углубленное сотрудничество, киберспортивный мобильный телефон Red Devil будет оснащен третьим поколением Snapdragon 8, грядущий realme GT5 Pro также будет оснащен этим флагманским чипом, vivo и iQOO выпустят флагманские продукты, оснащенные третьим поколением Snapdragon 8, ZTE на базе третьего поколения флагманского мобильного телефона Snapdragon 8 nubia скоро будет доступен.
По данным Qualcomm, флагманские Android-терминалы, оснащенные Snapdragon 8 третьего поколения, как ожидается, будут доступны в ближайшие недели.
03 Эра «терминального ИИ»
Продвижение генеративного ИИ в различных категориях терминалов, включая широкий спектр потребительской электроники, стало самой большой целью Qualcomm в этом году.
«Мы вступаем в эру ИИ, и генеративный ИИ на конечной стороне имеет решающее значение для создания мощного, быстрого, персонализированного, эффективного, безопасного и высокооптимизированного опыта. **», — сказал генеральный директор Qualcomm Амон Анменг.
Snapdragon X Elite, Snapdragon 8 третьего поколения, анонсированный на саммите Snapdragon, как говорят, способен справляться с задачами генеративного искусственного интеллекта на экстремальных скоростях, например, чат-помощник на стороне терминала для ПК с Windows 11 может обрабатывать 30 токенов в секунду, а для создания изображений на смартфонах с помощью Stable Diffusion требуется менее секунды.
По словам Зиада Асгара, старшего вице-президента по управлению продуктами Qualcomm, появление мультимодального ИИ меняет способ взаимодействия людей с устройствами: «Полностью функционирует на конечных устройствах, что означает, что вы можете летать на самолете и по-прежнему использовать генеративный ИИ». И «это, безусловно, только начало этой революции».
По словам Асгара, «генеративный ИИ в облаке сталкивается со многими проблемами, которые могут быть решены с помощью обработки на устройстве». Например, некоторые компании интегрируют проприетарный код в инструменты GPT для обнаружения ошибок в коде. В будущем ПК смогут использовать информацию, известную устройству, такую как статус пользователя, предпочтения, календарь и возраст, в сочетании с запросами генеративного ИИ для улучшения возможностей генеративного ИИ, которые «намного превосходят облако».
Более того, по сравнению с интерактивным игровым процессом, где люди передают личную информацию различным чат-ботам, самым большим преимуществом ИИ, работающего на устройствах, является: конфиденциальность, и нет необходимости передавать частную контекстную информацию в облако для обработки. Кроме того, преимущество оперативности заключается в том, что вам не нужно ждать, пока информация вернется из облака.
Но есть еще одна ключевая проблема с запуском ИИ в терминале: что, если вывод модели требует много вычислений?
По словам руководителей Qualcomm, 16-битные или 32-битные числа с плавающей запятой обычно используются при обучении больших языковых моделей в облаке, что приводит к вычислительным вычислениям для каждого вывода модели. Вместо этого они сосредоточились на сжатии моделей, квантовании и обрезке, таких как использование только 4 бит, экономия энергии и возможность выполнять более одновременную обработку ИИ на устройствах, заявив, что «рост больших языковых моделей за последние несколько месяцев доказал стратегии уменьшения моделей путем их квантования».
Кроме того, со временем люди продолжали совершенствовать алгоритм и модель стала становиться меньше. Еще один подход, который будут использовать люди, — это «предметно-ориентированные модели», где модели обучаются для конкретных приложений, «модели могут стать очень маленькими и иметь очень высокую точность».
«Основываясь на многолетних исследованиях и разработках Qualcomm в области искусственного интеллекта, включая сочетание CPU, NPU и GPU с отличной производительностью терминала, а также нашу поддержку локальной работы многих ведущих моделей, мы можем донести преимущества генеративного ИИ до пользователей по всему миру и до различных конечных категорий», — сказал Амон.
В то же время, чтобы позволить терминалам Snapdragon, использующим Android, Windows и другие операционные системы, обнаруживать друг друга и достигать бесшовного взаимодействия между несколькими терминалами, Qualcomm представила кроссплатформенную технологию Snapdragon Seamless на саммите Snapdragon.
По данным Deloitte Connected Consumer Survey, в настоящее время каждое домохозяйство в США имеет в среднем 21 цифровой терминал, но передача информации между различными терминалами, особенно между терминалами разных производителей, часто не проходит гладко. Это ограничит потребительский выбор и приведет к эффекту блокировки, когда потребители должны покупать товары только у одного и того же производителя, чтобы работать вместе между своими терминалами.
С помощью Snapdragon Seamless несколько терминалов могут работать как единое целое, например: мышь и клавиатура могут беспрепятственно использоваться на ПК, мобильных телефонах и планшетах; Файлы и окна можно перетаскивать между различными типами терминалов; Наушники можно интеллектуально переключать в соответствии с приоритетом источника звука; XR предлагает расширенный функционал для смартфонов.
Сообщается, что в будущем Snapdragon Seamless расширится до XR, автомобильных и IoT-платформ. Такие компании, как Microsoft, Android, Xiaomi, Asus, Honor, Lenovo и OPPO, работают с Qualcomm над внедрением Snapdragon Seamless, технологии, которая появится на терминальных платформах, выпущенных по всему миру уже в этом году.
От смартфонов, устройств дополненной реальности, автомобилей до персональных компьютеров началось проникновение генеративного ИИ в широкий спектр конечных устройств с помощью чипов. Qualcomm является самым важным, первым и самым важным шагом в продвижении «терминального ИИ» для всех потребителей.