En estos últimos meses, ha comenzado a verse en los medios una nueva categoría de PCs denominada AI PC, donde AI viene de Artificial Intelligence. La inteligencia artificial está calando fuerte en el sector tecnológico, primero en el segmento más profesional y corporativo, alrededor de centros de datos, servidores y estaciones de trabajo, para ir moviéndose posteriormente a ámbitos más cercanos a los usuarios de a pie.
Los AI PC suponen un paso más hacia la democratización de la inteligencia artificial, al venir integrada en los equipos portátiles y de sobremesa que adquiramos en los meses venideros. Al menos en algunos de ellos, que cuenten con el hardware adecuado para acelerar el procesamiento de IA en el propio dispositivo.
El siguiente reto de dicha democratización será el de llevar la IA a los dispositivos móviles, algo de lo que ya se ha empezado a hablar en el pasado Mobile World Congress, como en los Samsung Galaxy S24.
IA integrada en el PC: ¿qué significa en la práctica?
Cuando decimos que en un AI PC, la inteligencia artificial está integrada en el PC, la idea que subyace es la de ejecutar los modelos de IA en el propio dispositivo, en vez de recurrir al procesamiento en la nube, como sucede actualmente cuando hacemos uso de IAs como ChatGPT, Midjourney o Copilot.
Esta integración, en los equipos basados en Windows. se sustentará de forma preferente sobre la IA Copilot de Microsoft, acelerada mediante las NPUs que empiezan a venir en los procesadores de Intel, AMD y Qualcomm de nueva generación. De todos modos, nada impedirá que se instalen otros chatbots, como ChatRTX de NVIDIA.
Modelos de IA como GPT, primero se entrenan en centros de datos, de modo que se encuentren las relaciones estadísticas entre los billones de parámetros que se manejan en un Large Language Model (LLM) como el que emplea Open AI en GPT. Una vez entrenado, el modelo resultante es el que se usa para generar las inferencias a partir de los prompts.
La generación de inferencias a partir del modelo resultante del entrenamiento es un proceso menos costoso en términos de recursos de computación que el entrenamiento propiamente dicho. Pero, a pesar de ser menos costoso, es una tarea para la que los procesadores convencionales no están especialmente bien preparados.
La generación de inferencias a partir de modelos de IA se beneficia especialmente de arquitecturas de procesamiento con un elevado grado de paralelismo, como la de las tarjetas gráficas. De hecho, NVIDIA ha adaptado sus arquitecturas de GPU para la aceleración del procesamiento de cargas de trabajo de IA, lo cual ha hecho que sus ventas de aceleradoras de IA haya aumentado de forma estratosférica.
Esta dificultad de los procesadores actuales, como los de Intel, AMD o Apple, para generar inferencias de IA, hace que la forma habitual de acceder a la inteligencia artificial sea a través de la nube.
Es decir, el procesamiento de los prompts, para generar inferencias, se realiza preferentemente en plataformas cloud equipadas con un hardware capaz de procesar las peticiones con rapidez, Por ejemplo, las aceleradoras de IA de NVIDIA H100 o H200, que cuestan unos 45.000 dólares incluso.
Hay aplicaciones y modelos de IA que vienen con versiones instalables en nuestros propios ordenadores, como Stable Diffusion para la generación de imágenes. O Chat RTX de NVIDIA, pero no es lo usual, ya que se necesita un hardware muy exigente en la parte de la GPU para que el procesamiento sea ágil.
Las NPUs: a medio camino entre una CPU y una GPU
La tendencia más reciente en el diseño de procesadores para portátiles y equipos de sobremesa, sin embargo, es la integración de un componente relativamente nuevo: la NPU o Neural Processing Unit, por sus siglas en inglés. Es una tercera unidad de procesamiento, que se suma a la CPU y a la GPU, pensada para acelerar el procesamiento de cargas de inteligencia artificial en el propio dispositivo, en vez de tener que recurrir a la nube.
La NPU, frente a las GPUs, que también pueden acelerar el procesamiento de cargas de inteligencia artificial, presenta ventajas como una mayor eficiencia energética a la hora de acelerar el procesamiento de IA. Además, frente a la CPU, una NPU ofrece un rendimiento mucho mayor. Los procesadores más recientes de Intel, los Meteor Lake, vienen ya con una NPU integrada. Algunos de los procesadores de AMD de las generaciones Ryzen 7000 y Ryzen 8000, también viene con Ryzen AI, que es el nombre con el que AMD designa a su NPU.
Qualcomm, por su parte, en la plataforma Snapdragon X que llegará en las próximas semanas, también integra su propia NPU Hexagon. Apple, en sus procesadores Apple Silicon y los SoC AXX para smartphones, integra la llamada Apple Neural Engine. Es decir, todos los fabricantes de procesadores ya contemplan la aceleración de IA en sus chips.
NVIDIA también quiere su trozo de pastel
A Intel, AMD y Qualcomm, se suma también NVIDIA en su particular adopción de la IA como argumento para convencer a los usuarios que compren unas u otras tecnologías. En concreto, NVIDIA está introduciendo el concepto de AI PCs básicos y AI PCs Premium. O Basic AI y Premium AI.
Los primeros, son los que ofrecen un rendimiento entre 10 y 45 TOPS. Los segundos, están en la horquilla de 100 - 1300+ TOPS. Efectivamente, los AI PCs básicos son los que proponen Intel, AMD y Qualcomm. Los rendimientos actuales de las NPUs de Intel y AMD son de entre 10 y 16 TOPS, de hecho.
Las GPUs dedicadas de NVIDIA, por su parte, ofrecen rendimientos de 194 TOPS para una RTX 4060 Laptop. O de 686 TOPS para una RTX 4090 Laptop, que llegan a más de 1.300 TOPS para una RTX 4090 de escritorio. La letra pequeña de estas propuestas de NVIDIA está en que Microsoft solo contempla a las NPUs de los procesadores como parte de su iniciativa AI PC.
Requisitos para que un PC sea un AI PC
El rendimiento de una NPU se mide en TOPS (Trillion of Operations Per Second). Las NPUs de primera generación ofrecen unos rendimientos de entre 20 y 35 TOPS. Los Snapdragon X Elite, según datos de Qualcomm, llegan a los 45 TOPS. A modo de comparación, tenemos que una GeForce RTX 4080 de NVIDIA, alcanza unos 830 TOPS y una tarjeta profesional NVIDIA H200, está cerca de los 4.000 TOPS. Recuerda que, estas últimas aceleradoras, cuestan decenas de miles de dólares por unidad.
Llegados a este punto, Intel y Microsoft han pensado en los requerimientos de rendimiento mínimo que tiene que tener un procesador en IA para que pueda mover cargas de inteligencia artificial en el propio dispositivo con solvencia. En concreto, el mínimo rendimiento que debe tener es de 40 TOPS. Con este rendimiento, un PC podría mover la IA Copilot de Microsoft en el propio dispositivo sin necesidad de recurrir a la nube.
Si nos ponemos un poco más técnicos, un AI PC deberá tener una NPU, una GPU y la capacidad de manejar Vector Neural Network Instructions (VNNI) e instrucciones DP4a, así como tener 16 GB de memoria.
Recuerda también, que, Copilot de Microsoft es la aplicación para generar inferencias a partir del modelo GPT de Open AI, así como a partir del modelo DALL-E para generar imágenes. ChatGPT, por su parte, también emplea el modelo GPT para generar sus inferencias. Meta (antes Facebook), cuenta con su propio modelo Llama 3, mientras que Google cuenta con su LLM (Large Language Model) Gemini.
Nosotros hemos comparado Gemini, Copilot y ChatGPT para analizar los puntos fuertes y débiles de cada uno.
Microsoft asocia su idea de AI PC con la integración de la Copilot, claro está. Por algo Microsoft desarrolla también el sistema operativo Windows. La idea es que Copilot se integre de un modo profundo en la experiencia de uso de los PCs.
En un sentido general, podríamos llamar AI PCs a los equipos en los que tengamos instaladas herramientas de IA que se ejecuten en el propio PC. Eso es algo que ya se puede hacer usando Stable Diffusion de stability.ai, o Chat RTX de NVIDIA. En cualquier caso, una de las claves más importantes para entender el concepto de AI PC es precisamente esta: la IA se ejecuta en el propio PC, en vez de en la nube.
Como parte de la especificación oficial de AI PC, también está la presencia de una tecla Copilot dedicada para lanzar la IA. A pesar de que el rendimiento de las NPUs actuales no llega a los 40 TOPS propuestos, algunos equipos portátiles ya vienen con una tecla Copilot dedicada.
De todos modos, hasta que no se presenten los procesadores Lunar Lake de Intel, hacia finales de año, así como los nuevos procesadores AMD Zen5 y los procesadores Qualcomm Snapdragon X Elite, no habrá una disponibilidad generalizada de estos AI PCs.
Ventajas de los AI PCs
Procesar la IA en el propio dispositivo, sin tener que ir a Internet, permite que los datos de los usuarios no salgan del equipo. Este punto favorece la privacidad y evita potenciales riesgos de ciber ataques en el caso de que dichos datos estuvieran en plataformas cloud.
Además, el procesamiento local de la inteligencia artificial agiliza la experiencia de uso de la IA, al no depender de la calidad o incluso la presencia de la conexión de Internet en apartados como la latencia o la velocidad de la conexión. Si la IA va a ser la puerta de entrada para la interacción con el PC, lo suyo es que no dependamos de variables tan arbitrarias como esas.
Dependiendo de la integración de la IA en los equipos, será posible prescindir hasta cierto punto de las aplicaciones tradicionales. Ahora, usamos un navegador web, Google Maps o un procesador de texto para crear un documento con el resumen de nuestros hallazgos, pero con un AI PC, solo tendríamos que usar el chatbot correspondiente, como el de Copilot.
Podremos, por ejemplo, planear un viaje sin abrir aplicación alguna. La inferencia generada como parte de nuestra búsqueda, contendrá las propuestas más interesantes para comprar los billetes de avión, los hoteles más ajustados a nuestras preferencias, el pronóstico del tiempo o los lugares más interesantes para visitar, con una propuesta de horarios.
Y todo ello sin tener que entrar en un navegador web, una aplicación de compra de billetes de avión o una aplicación de calendario y gestión de tareas ni un procesador de texto, porque el resumen con toda la información y opciones ya estará redactada en un único documento, con imágenes y tablas incluso.
No quiere decir esto que las aplicaciones vayan a desaparecer, pero sí que podrían quedar en un segundo plano en la interacción con nuestros equipos.
Lo más inmediato, sin embargo, es tener una experiencia como la que podemos tener con Copilot en Edge ahora mismo, como forma principal de interacción con nuestro PC de sobremesa o portátil, y sin necesidad de estar conectados a Internet.
Inconvenientes de los AI PCs
No todo son ventajas en los AI PCs. Por lo pronto, los modelos de IA que se ejecutan localmente en un PC son más pequeños que los que se usan en la nube. Cuando decimos que son más pequeños, nos referimos a que manejan un menor número de parámetros, lo cual puede limitar su funcionalidad.
Para un uso generalista y cotidiano, estos modelos más reducidos ya se usan y son muy convenientes, pero para usos profesionales o especializados, será mejor contar con modelos más grandes que se procesen en equipos más potentes o en el cloud.
Por otro lado, para que se generalice el uso de la aceleración de IA en el propio dispositivo, las aplicaciones tienen que saber cómo aprovechar la tecnología de las NPU, lo cual pasa por hacer que las aplicaciones sepan cómo llevar el procesamiento de IA a las NPUs. Windows 11 y Copilot, podrán aprovechar esta aceleración, pero Copilot es solo una de las muchas aplicaciones que se benefician de la aceleración mediante las NPUs.
De momento, el aprovechamiento de las NPUs por parte de las aplicaciones es limitado. Es más frecuente que las apps que precisan de aceleración de IA recurran a la GPU para ello, especialmente si tenemos una GPU de NVIDIA con al menos 8 GB de memoria VRAM.
Otro aspecto que puede jugar en contra de estos equipos es el precio, si los equipos AI PC vienen acompañados de un sobreprecio respecto a los equipos convencionales.
Potenciales ventajas de los AI PC
Hacer uso de la bola mágica de las predicciones no siempre es una buena idea. En cualquier caso, hay potenciales escenarios de uso para los AI PC que podrían revitalizar el segmento del PC.
Por ejemplo, si la inteligencia artificial facilita el uso de los equipos a los usuarios, especialmente los menos duchos en tecnología, puede que el uso del PC por parte de personas mayores, sin ir más lejos, se generalice y se encuentren escenarios de aplicación que realmente mejoren la relación de esta audiencia con la tecnología.
Si la IA consigue hacer de intermediaria entre lo que los usuarios quieren hacer y las aplicaciones necesarias para hacerlo, se puede acortar la distancia entre lo que queremos hacer con un PC y los resultados.
Hay que recordar que la IA es más que ChatGPT o Copilot. Existen otras aplicaciones, como las de edición de fotos y vídeos o diseño gráfico o procesamiento de audio, por poner algunos ejemplos, que se benefician de la IA para realizar sus funciones.
En pocas semanas asistiremos a la primera gran oleada de lanzamientos de AI PCs, especialmente con los procesadores de Intel y Qualcomm, que son los que más ruido están haciendo en este apartado. Pero sin olvidar a AMD y a Apple que también cuentan con aceleración de IA. Será para junio coincidiendo con el evento Computex, si las predicciones no están equivocadas.
Windows Copilot AI llegará a todas las apps de Microsoft
- Ver Comentarios