PrismML lleva sus modelos de IA minúsculos a los anteojos inteligentes con chips Qualcomm

El laboratorio de inteligencia artificial PrismML desarrolló una versión de sus modelos de lenguaje minúsculos para anteojos inteligentes que funcionan con los chips Snapdragon de Qualcomm. La presentación se hizo el miércoles en la Snapdragon Summit, el evento anual de la fabricante de semiconductores, donde se mostró el modelo Bonsai LLM de 1 bit corriendo de forma local en la plataforma Snapdragon AR1 Gen 1.

La versión para anteojos es un modelo de 2.000 millones de parámetros ajustado para visión y lenguaje, lo que permite a quien lo usa preguntar en tiempo real qué está mirando. PrismML fue fundado por investigadores de Caltech y cuenta con la asesoría de Ion Stoica, académico de la Universidad de California en Berkeley.

La propuesta central de la empresa es comprimir modelos grandes sin resignar rendimiento. En este caso, según sus desarrolladores, el modelo se reduce cuatro veces y conserva casi toda su performance en las pruebas estándar de la industria. Esa capacidad de achicar la carga computacional es lo que habilita que la inteligencia artificial funcione dentro de un dispositivo pequeño y sin conexión permanente a la nube.

El objetivo de mayor alcance de PrismML es la IA de pesos abiertos que se ejecute en los dispositivos y aproveche mejor la potencia de cómputo que ya tienen. La startup plantea esta alternativa como un contrapeso a la dependencia de los laboratorios de IA propietarios, sus promesas de privacidad y su necesidad constante de más capacidad de cálculo.

"Nuestra apuesta es que el cómputo que ya está en los dispositivos alcance para correr modelos útiles, sin mandar todo a un servidor", sostuvo un vocero de la compañía durante la presentación. La idea apunta a que los datos del usuario, como las imágenes que captan las cámaras de los anteojos, se procesen en el propio equipo y no viajen a centros de datos de terceros.

El anuncio se apoya en el avance que la empresa ya había mostrado semanas atrás, cuando presentó su modelo minúsculo con la promesa de cambiar la forma en que se usa la inteligencia artificial en el día a día. En ese momento, la compañía explicó que su técnica de compresión permite mantener la calidad del modelo original pese a la reducción drástica de tamaño.

Qualcomm viene empujando desde hace años la idea de la IA en el borde, es decir, procesada en el propio dispositivo en lugar de la nube. La plataforma AR1 Gen 1 está pensada para anteojos con funciones de realidad aumentada y asistentes inteligentes, un segmento donde varias empresas tecnológicas compiten por definir el estándar de la próxima generación de dispositivos vestibles.

Pese al anuncio, todavía no hay anteojos inteligentes que incorporen PrismML en el mercado. La presentación en la cumbre de Qualcomm funciona como una demostración de capacidad técnica y como un paso hacia la visión de la startup, pero no se traduce por ahora en un producto que el público pueda comprar.