Qualcomm y Microsoft confluyen en el desarrollo de la Inteligencia Artificial en la nube y en dispositivos
Qualcomm y Microsoft trabajan en la inteligencia artificial (IA) generativa para ayudar a que los servicios en la nube sean más accesibles, confiables y privados, con foco en mejorar la experiencia de los usuarios empresariales e industriales a través de sus diversos dispositivos.
En palabras de Pavan Davuluri, vicepresidente corporativo del departamento de Silicon and System Integration de Windows en Microsoft: “Tanto el procesamiento en la nube como el procesamiento en dispositivos son necesarios para ampliar la Inteligencia Artificial en todo el vasto universo de dispositivos y aplicaciones (…) Al reunir el liderazgo de Microsoft en la IA en la nube y las capacidades de la plataforma Windows con la experiencia de Qualcomm Technologies en IA en dispositivos, aceleraremos las oportunidades para experiencias de inteligencia artificial generativa”.
Sucede que las plataformas Snapdragon incluyen al Qualcomm AI Engine, herramienta dedicada a procesar cargas de trabajo de Inteligencia Artificial de manera más eficiente que cuando se procesan únicamente en la CPU o la GPU y esto es, justamente, lo que permite que la Inteligencia Artificial sea posible en cualquier dispositivo.
Por su parte, Ziad Asghar, vicepresidente senior de gestión de productos de Qualcomm Technologies, dijo en el marco del evento Microsoft Build 2023, donde presentó los avances de IA generativa en dispositivos que Qualcomm está realizando (incluidas las plataformas de cálculo Snapdragon), así como nuevas opciones para los desarrolladores que crean aplicaciones para PC con Windows 11 alimentadas por Snapdragon: “Para que la IA generativa se vuelva realmente convencional, gran parte de la inferencia deberá ejecutarse en dispositivos periféricos”.
Las demostraciones probaron que es posible el uso del modelo de inteligencia artificial generativa de texto a imagen, que posee más de 1.000 millones de parámetros llamado Stable Diffusion, en una PC de próxima generación y adelantaron que también se trabaja para que, en los próximos meses, se pueda ejecutar también modelos más grandes, con hasta 10.000 millones de parámetros (incluidos modelos de lenguaje extenso o LLM, por sus siglas en inglés).
Así las cosas, el Qualcomm AI Engine Direct SDK se presenta como la ayuda para que los desarrolladores puedan crear la próxima generación de experiencias de IA, al tiempo que el anuncio precisa que con ONNX Runtime y Qualcomm AI Stack, se pueden ejecutar cargas de trabajo de IA en el Snapdragon 8cx Gen 3 AI Engine, tanto en dispositivos como el Surface Pro 9 5G o en una Lenovo ThinkPad x13s.
