Underdog lanza Woof, un modelo de voz de 32 MB que corre sin internet

La startup Underdog presentó Woof, un modelo de generación de voz de apenas 32 MB que funciona dentro del navegador y, según la empresa, puede correr en la mayoría de los dispositivos sin conexión a internet. El anuncio llega en un momento en que la industria de la inteligencia artificial empuja hacia modelos cada vez más grandes y costosos en poder de cómputo.

El modelo tiene 31 millones de parámetros y está disponible para que cualquiera lo descargue. Para mostrarlo, la compañía publicó un juego con estética de tecnología retro: una habitación con una máquina de escribir, un monitor CRT y una lámpara de escritorio que emite un sonido al accionar el interruptor.

La dinámica es simple. El usuario escribe cualquier texto con el teclado y el juego lo reproduce en voz alta. También puede girar un sintonizador para generar distintos tipos de música. Todo ocurre en el navegador, sin pasar por servidores externos.

La introducción del juego advierte sobre proveedores de nube "intrusivos" en el pueblo, una referencia directa a los modelos que dependen de centros de datos. La apuesta de Underdog es la opuesta: inteligencia artificial que vive en el equipo del usuario y que, por lo tanto, mantiene los datos bajo su control.

El demo se conoce semanas después del lanzamiento de Bark, un modelo de conversión de voz a texto de 167 MB también diseñado para dispositivos locales, orientado a transcripción y dictado. La firma suma así dos herramientas de audio de tamaño reducido.

Sigil Wen, fundador de Underdog, explicó que empezó a construir la aplicación porque quería su propio sistema en lugar de recurrir a grabadores de notas como Granola, con modelos que corran en los dispositivos de los usuarios y les permitan ser dueños de sus datos.

"Creo que vamos a poder correr la mayoría de los modelos capaces de hoy en los dispositivos que ya tenés en cuestión de meses. Solo queremos entrenar los mejores modelos abiertos, hechos en Estados Unidos, que sean capaces y permitan a la gente tener una IA privada", sostuvo Wen.

El enfoque de modelos chicos para el borde tiene límites claros. Un modelo de este tamaño difícilmente reemplace a los grandes sistemas actuales, pero puede alcanzar para asistentes locales o podcasts personalizados. La discusión sobre hasta dónde llega la IA en el dispositivo y dónde empieza la nube también atraviesa el debate sobre cómo los modelos moldean las opiniones de quienes los usan a diario.

Además de los dos modelos de voz, Underdog liberó un modelo de 27.000 millones de parámetros que puede correr en laptops, junto con una aplicación con lista de espera que la empresa posiciona como una alternativa alojada localmente a Muse e Instinct. La compañía busca instalarse en un segmento donde la privacidad y la autonomía del usuario son la propuesta central.

El movimiento se da en medio de una carrera por la escala: las principales compañías del sector negocian inversiones millonarias para entrenar sistemas cada vez más grandes, como la ronda que negocia OpenAI por US$30.000 millones. Frente a ese escenario, los modelos compactos proponen otra lógica: menos cómputo, más cercanía al usuario.