Safeworld y su apuesta por robots con IA generativa segura

Una nueva empresa surgida en Estados Unidos busca responder una pregunta incómoda para la industria: cómo garantizar que un robot controlado por inteligencia artificial generativa no lastime a una persona. Se trata de Safeworld, fundada por el doctor Ding Zhao, director del laboratorio de IA Segura de la Universidad Carnegie Mellon, junto al ejecutivo Kyle Wong y el ingeniero en aprendizaje automático Simo Rachidi.

La compañía salió del modo sigiloso con una ronda semilla de más de US$12 millones, liderada por Shine Capital y a16z Speedrun, con aportes de Box Group, el fondo de la Universidad Carnegie Mellon, Innovation Endeavors y SV Angel.

El problema que aborda Safeworld es concreto: los robots que incorporan modelos de IA generativa no son predecibles como los algoritmos tradicionales. “El desafío de seguridad del que hablamos combina, por un lado, evaluaciones probabilísticas de IA generativa muy avanzadas —cómo se suscribe el riesgo de un sistema probabilístico—”, explicó Zhao. “La segunda parte, que es realmente difícil, es la de la confianza, y se necesitan ambas para desplegar un robot”.

La especialidad de la empresa es evaluar un sistema de control robótico en simulaciones pobladas con modelos humanos realistas. El enfoque se parece al que usan compañías como Tesla o Wayve para verificar que sus vehículos reaccionen bien ante incidentes sorpresivos en la ruta. Pero para los robots es más complejo, sostiene Zhao, porque trabajan en entornos no estructurados y cada instalación tiene estándares de seguridad distintos.

“Una de las áreas más comunes es si hay un rincón ciego en una fábrica determinada”, dijo Wong. “¿Cuál es la velocidad o la distancia de frenado que necesitás para asegurarte de que el robot no choque con una persona? Si alguien lleva cajas, por ejemplo, ¿el robot lo detecta o no?”.

Para responder esa pregunta, Safeworld construye una versión digital de ese rincón en un modelo como Genesis o MuJoCo, inserta una simulación del robot evaluado, impulsada por su software real, y corre miles de escenarios en los que modelos humanos se cruzan con la máquina. Es más difícil de lo que parece, según Zhao, porque las personas son impredecibles.

“Tropezarse y caerse también es un buen ejemplo de algo con lo que hacemos muchas pruebas en simulación”, contó Wong. “De otro modo, tendrías que ir y tropezarte y caerte para el robot, que es algo difícil de estar haciendo todo el tiempo”.

Existen similitudes claras entre la plataforma que desarrolla Safeworld y las herramientas que usan internamente los fabricantes de robots. Los fundadores creen, sin embargo, que más allá de su experiencia específica, los fabricantes van a querer que un tercero valide su trabajo, aunque sea para compartir información sobre casos de seguridad entre competidores.

“Mucha gente subestima lo difícil que va a ser resolver algunos de estos casos límite”, afirmó Zhao. “No nos preocupa el robot en el vacío, en la demostración. Nos preocupa el robot desplegado a escala, con personas que quizá nunca operaron un robot antes”.

Vishal Dugar, director de tecnología de Gritt Robotics, desarrolla el cerebro de IA para robots que hoy ayudan a trabajadores a instalar paneles fotovoltaicos en granjas solares de escala industrial, y aspira a tareas de construcción más complejas. Su empresa se asoció con Safeworld para desarrollar las simulaciones de seguridad.

“La dificultad con la mayoría de nuestros sistemas es que es muy difícil probar formalmente con matemática, escribiendo ecuaciones, y decir que el sistema está verificado como seguro”, señaló Dugar. “Necesariamente tiene que hacerse de manera empírica”.

Sus robots operan junto a trabajadores humanos y evitar que un brazo robótico los golpee es prioridad. Verificarlo en la práctica exige considerar todo tipo de escenarios posibles. “Los humanos tenemos muchas apariencias”, advirtió Dugar. “Sus cuerpos pueden estar en distintas configuraciones. Pueden estar arrodillados, de pie. Pueden tropezarse y caerse. Pueden estar agachados. Pueden estar corriendo. Tenés que responder a todos esos comportamientos que las personas podrían exhibir en esos sitios, junto con la variedad de variaciones en la apariencia humana: ropa, tamaño, forma, altura, color de piel, todo lo demás”.

Todavía es temprano para Safeworld y para la IA generativa en robótica. La compañía aún define el mejor modelo para su producto —una plataforma para usuarios externos o un enfoque basado en servicios—, pero el equipo confía en que está atacando el problema correcto. “Probablemente seamos la primera empresa rentable en este campo”, aseguró Zhao. “Porque si alguien quiere desplegar, tiene que pagarnos para manejar la situación”.