Golpear a Apple, patear a Intel y los chips de Qualcomm son el futuro de la IA

Fuente original: Geek Park

Fuente de la imagen: Generado por Unbounded AI

"¡Espera un minuto, espera un minuto, quieres disparar más el próximo PPT!"

En la madrugada del 25 de octubre, hora de Pekín, en el discurso de apertura de la Cumbre Qualcomm Snapdragon 2023, Cristiano Amon, presidente y CEO de Qualcomm, presentó a todo pulmón la CPU Snapdragon X Elite Oryon. En la presentación PPT, la nueva CPU no solo eclipsó al M2 Max de Apple y al Intel i9-13980HX, los dos procesadores más potentes del mundo, sino que también tuvo un consumo máximo de energía más bajo que los dos anteriores.

Al mismo tiempo, además de hacerse un nombre para X Elite en el lado de la PC, Qualcomm también expuso el procesador Snapdragon 8 Gen 3 el mismo día. Como el último chip móvil, Snapdragon 8 Gen 3 no solo mejora el rendimiento, sino que también optimiza el procesamiento de IA generativa e incluso puede ejecutar directamente modelos con decenas de miles de millones de parámetros**.

Dentro y fuera del mercado, los directores ejecutivos y presidentes de gigantes de la electrónica de consumo como Microsoft, Meta, Google, HP, Lenovo y Xiaomi han defendido a Qualcomm. Entre ellos, el presidente del Grupo Xiaomi, Lu Weibing, no solo expuso el próximo buque insignia Xiaomi 14 en la escena, sino que también adelantó oficialmente que los autos Xiaomi se lanzarán en 2024.

Los nuevos productos de chips de la serie PC, el chip Snapdragon 8 Gen 3, hacen que la "IA terminal" enfatizada por Qualcomm sea una realidad al alcance de la mano.

01 Snapdragon X Elite, directo a Apple Intel

El foco de atención de toda la audiencia ese día no fue otro que el Snapdragon X Elite.

Para respaldar futuras tareas inteligentes de alta carga, Qualcomm presentó el procesador informático más potente de la compañía hasta la fecha para PC: el Snapdragon X Elite, con CPU Oryon infligidas directamente a Intel y Apple.

Diseñado para IA, Snapdragon X Elite** integra una nueva CPU Qualcomm Oryon personalizada, admite modelos de IA generativa con más de 13 mil millones de parámetros que se ejecutan en el lado del terminal**, procesando 4,5 veces más rápido que los productos de la competencia, y puede generar 30 tokens por segundo para modelos grandes de 7 mil millones de parámetros. Según Qualcomm, esta CPU de computación móvil funciona el doble que la competencia, consumiendo solo un tercio del consumo de energía con el mismo rendimiento máximo.

Snapdragon X Elite puede generar 30 tokens por segundo para modelos grandes de 7 mil millones de parámetros

"Date prisa y toma fotos". El CEO de Qualcomm, Amon, dijo en la cumbre que el rendimiento de un solo hilo de las CPU Oryon supera al M2 Max de Apple y al i9-13980HX de Intel, y el consumo de energía de rendimiento máximo es un 30% menor que el M2 Max y un 70% menor que el i9-13980HX.

El rendimiento de un solo hilo de las CPU Oryon supera al M2 Max de Apple | Qualcomm

El rendimiento de un solo hilo de la CPU Oryon supera al i9-13980HX de Intel |

En términos de rendimiento multihilo, Qualcomm también comparó el i7-1355U y el i7-1360P de Intel, diciendo que el rendimiento del Snapdragon X Elite puede ser el doble de alto, y el consumo de energía de rendimiento máximo puede ser un 68% menor; También está el i7-13800H de Intel, que afirma superarlo en un 60% en rendimiento y un 65% menos en consumo de energía de rendimiento máximo. Además, Qualcomm también se centró en comparar el M2 de Apple, destacando que el rendimiento del Snapdragon X Elite lo supera en un 50%.

El rendimiento del Snapdragon X Elite supera en un 50% al del Apple M2 | Qualcomm

Kedar Kondap, Vicepresidente Senior y Gerente General de Compute & Gaming en Qualcomm Technologies, dijo: "El Snapdragon X Elite marca un salto cuántico hacia adelante en la innovación de la tecnología informática, con la nueva CPU Qualcomm Oryon personalizada que ofrece una increíble eficiencia energética a los consumidores y lleva la creatividad y la productividad a un nivel completamente nuevo. La potente IA del lado final permitirá una multitarea fluida y una nueva experiencia de usuario intuitiva, lo que permitirá a los consumidores y a las empresas crear y crecer".

Rendimiento del Snapdragon X Elite |

Se informa que se espera que los fabricantes OEM lancen PC equipadas con Snapdragon X Elite a mediados de 2024.

02 Snapdragon de 3ª generación 8,1 segundos para generar una imagen de difusión estable

En la cumbre, Qualcomm también lanzó la primera plataforma móvil cuidadosamente construida para IA generativa: Snapdragon 8 Gen 3.

En comparación con la generación anterior, el Snapdragon 8 de tercera generación tiene un 30% más de rendimiento de CPU, un 25% más de rendimiento de GPU y un 25% más de rendimiento de NPU, lo que permite ejecutar modelos de IA generativa con 10 mil millones de parámetros. Supuestamente ejecutando Stable Diffusion en dispositivos de teléfonos inteligentes, se tarda menos de 1 segundo en generar imágenes con texto.

Rendimiento del Snapdragon 8 de 3.ª generación | Qualcomm

Chris Patrick, vicepresidente senior y gerente general de teléfonos móviles de Qualcomm Technologies, dijo: "La plataforma marcará el comienzo de una nueva era de IA generativa, que permitirá a los usuarios crear contenido único, ayudar a aumentar la productividad y permitir otros casos de uso innovadores".

Según la demostración en vivo, Snapdragon 8 Gen 3 admitirá algunas herramientas de cámara de IA útiles y creativas, incluidas funciones como eliminar objetos del video, expandir el área de la foto y generar fondos virtuales.

Como líder en SoC para teléfonos inteligentes insignia de Android, se informa que la tercera generación de Snapdragon 8 se adoptará ampliamente en los terminales de los fabricantes de equipos originales y marcas de teléfonos inteligentes globales, incluidos Asus, Honor, iQOO, Meizu, NIO, Nubia, OnePlus, OPPO, Realme, Redmi, Red Devil, Sony, vivo, Xiaomi y ZTE.

El presidente del Grupo Xiaomi, Lu Weibing, también apareció en la Cumbre de Hawái para demostrar el próximo lanzamiento del teléfono móvil Mi 14 equipado con el Snapdragon 8 de tercera generación, así como el "crecimiento de la estrategia de IA a largo plazo" de Xiaomi. Según él, la serie Xiaomi 14 hará el estreno mundial de la plataforma móvil Snapdragon 8 de tercera generación.

El presidente de Xiaomi, Lu Weibing, en la cumbre Snapdragon de Hawái | Qualcomm

Además de Xiaomi, según los ejecutivos de varios fabricantes, NIO y Qualcomm basados en la plataforma Snapdragon en la cooperación profunda del automóvil y el teléfono móvil, el teléfono móvil de deportes electrónicos Red Devil estará equipado con la tercera generación de Snapdragon 8, el próximo realme GT5 Pro también estará equipado con este chip insignia, vivo e iQOO lanzarán productos insignia equipados con la tercera generación de Snapdragon 8, ZTE basado en la tercera generación de Snapdragon 8 El teléfono móvil insignia de Nubia pronto estará disponible.

Rendimiento del Snapdragon 8 de 3.ª generación | Qualcomm

Según Qualcomm, se espera que los terminales insignia de Android equipados con el Snapdragon 8 de tercera generación estén disponibles en las próximas semanas.

03 La era de la "IA terminal"

Promover la IA generativa en varias categorías de terminales, incluida una amplia gama de productos electrónicos de consumo, se ha convertido en el mayor objetivo de Qualcomm este año.

"Estamos entrando en la era de la IA, y la IA generativa del lado final es fundamental para crear experiencias potentes, rápidas, personalizadas, eficientes, seguras y altamente optimizadas. **", dijo el CEO de Qualcomm, Amon Anmeng.

Se dice que el Snapdragon X Elite, el Snapdragon 8 de tercera generación, anunciado en la Snapdragon Summit, es capaz de manejar tareas generativas de IA a velocidades extremas, por ejemplo, el asistente de chat del lado de la terminal para PC con Windows 11 puede procesar 30 tokens por segundo, y se tarda menos de un segundo en generar imágenes en los teléfonos inteligentes utilizando Stable Diffusion.

De texto a imagen, de imagen a vídeo y de texto a 3D, la llegada de la IA multimodal está cambiando la forma en que los humanos interactúan con los dispositivos, según Ziad Asghar, vicepresidente senior de gestión de productos de Qualcomm, "Totalmente operativo en los dispositivos finales, lo que significa que se puede volar en un avión y seguir utilizando la IA generativa". Y, "esto definitivamente es solo el comienzo de esta revolución".

Según Asghar, "la IA generativa en la nube se enfrenta a muchos desafíos que pueden resolverse mediante el procesamiento en el dispositivo". Por ejemplo, algunas empresas están integrando código propietario en las herramientas GPT para detectar errores de código. En el futuro, es posible que las PC puedan usar información conocida por el dispositivo, como el estado del usuario, las preferencias, el calendario y la edad, combinada con consultas de IA generativa para obtener mejores experiencias de IA generativa que sean "muy superiores a la nube".

Además, en comparación con el juego interactivo en el que las personas entregan información personal a varios chatbots, el mayor punto de venta de la IA que se ejecuta en los dispositivos es: la privacidad, y no es necesario pasar información de contexto privado a la nube para su procesamiento. Además, existe el beneficio de la inmediatez, que es que no hay que esperar a que la información regrese de la nube.

Pero hay otro problema clave con la ejecución de IA en el terminal, ¿qué pasa si la inferencia del modelo requiere mucha computación?

Según los ejecutivos de Qualcomm, los números de coma flotante de 16 bits o 32 bits se utilizan normalmente cuando se entrenan modelos de lenguaje grandes en la nube, lo que da como resultado un cálculo intensivo para la inferencia de cada modelo. En cambio, se han centrado en comprimir modelos, cuantificar y podar, como usar solo 4 bits, ahorrar energía y poder realizar más procesamiento simultáneo de IA en los dispositivos, diciendo que "el crecimiento de los grandes modelos de lenguaje en los últimos meses ha demostrado estrategias para hacer que los modelos sean más pequeños cuantizándolos".

Además, con el tiempo, la gente siguió mejorando el algoritmo y el modelo comenzó a hacerse más pequeño. Otro enfoque que la gente adoptará son los "modelos específicos de dominio", donde los modelos se entrenan para aplicaciones específicas, "los modelos pueden llegar a ser muy pequeños y tener una precisión muy alta".

"Basándonos en los años de investigación y desarrollo de IA de Qualcomm, incluida la combinación de CPU, NPU y GPU con un excelente rendimiento en el terminal, y nuestro soporte para la operación local de muchos modelos líderes, podemos llevar los beneficios de la IA generativa a usuarios de todo el mundo y a diferentes categorías finales", dijo Amon.

Al mismo tiempo, con el fin de permitir que los terminales Snapdragon que utilizan Android, Windows y otros sistemas operativos se descubran entre sí y logren una cooperación fluida entre múltiples terminales, Qualcomm lanzó la tecnología multiplataforma Snapdragon Seamless en la Cumbre Snapdragon.

Tecnología multiplataforma Snapdragon Seamless |

Según la Encuesta de Consumidores Conectados de Deloitte, cada hogar estadounidense tiene actualmente un promedio de 21 terminales digitales, pero la transferencia de información entre diferentes terminales, especialmente entre terminales de diferentes fabricantes, a menudo no es fluida. Esto limitará las posibilidades de elección de los consumidores y dará lugar a un efecto de bloqueo, en el que los consumidores tendrán que comprar productos únicamente del mismo fabricante para poder trabajar juntos entre sus terminales.

Con Snapdragon Seamless, varios terminales pueden funcionar como si fueran una "sola unidad", por ejemplo: el mouse y el teclado se pueden usar sin problemas en PC, teléfonos móviles y tabletas; Los archivos y las ventanas se pueden arrastrar y soltar entre diferentes tipos de terminales; Los auriculares se pueden cambiar de forma inteligente según la prioridad de la fuente de sonido; XR ofrece una funcionalidad ampliada para smartphones.

Se informa que Snapdragon Seamless se expandirá a plataformas XR, automotrices e IoT en el futuro. Compañías como Microsoft, Android, Xiaomi, Asus, Honor, Lenovo y OPPO están trabajando con Qualcomm para adoptar Snapdragon Seamless, una tecnología que aterrizará en las plataformas de terminales lanzadas en todo el mundo a partir de este año.

Desde los teléfonos inteligentes, los dispositivos de realidad aumentada, los automóviles hasta las computadoras personales, ha comenzado la penetración de la IA generativa en una amplia gama de dispositivos finales a través de chips. Qualcomm es el primer paso más importante y el más importante en la promoción de la "IA terminal" para todos los consumidores.

Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
0/400
Sin comentarios
Opere con criptomonedas en cualquier momento y lugar
qrCode
Escanee para descargar la aplicación Gate
Comunidad
Español
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)