California regula la auditoría de la IA: Newsom firmó dos leyes pioneras

El gobernador de California, Gavin Newsom, firmó dos leyes que modifican el esquema de supervisión de la inteligencia artificial en el estado y establecen mecanismos para evaluar el funcionamiento de estos sistemas. Se trata de la SB 813 y la AB 1405, normas que la oficina del mandatario presentó como estándares pioneros a nivel nacional en materia de auditorías externas y evaluaciones independientes.

El objetivo declarado es aumentar la transparencia y fijar mayores mecanismos de rendición de cuentas a medida que la tecnología gana terreno en distintos ámbitos de la economía y de la vida pública. La decisión llega en un contexto de expectativas por los posibles beneficios de la IA y de preocupación creciente por los riesgos asociados a sistemas cada vez más avanzados.

La primera de las normas es la SB 813, impulsada por el senador Jerry McNerney, demócrata de Pleasanton. La ley establece un marco estatal para organizaciones de verificación independientes que podrán evaluar sistemas y modelos de inteligencia artificial con el propósito de determinar si cumplen con las leyes de California.

El mecanismo introduce una instancia externa de revisión. En lugar de que las propias compañías sean las únicas responsables de evaluar sus productos, las organizaciones independientes podrán analizar los sistemas y comprobar aspectos vinculados con su cumplimiento de las normas estatales.

El segundo proyecto firmado por Newsom es la AB 1405, presentada por la asambleísta Rebecca Bauer-Kahan, demócrata de Orinda. Esta ley crea un registro estatal para los auditores de inteligencia artificial y fija estándares vinculados con su independencia, transparencia e integridad.

Mientras una ley crea el marco para las organizaciones encargadas de realizar verificaciones independientes, la otra establece un registro y criterios destinados a determinar cómo deben funcionar los auditores que participen de este proceso en California.

El senador McNerney defendió la aprobación de la SB 813 y sostuvo que los sistemas de IA pueden aportar beneficios importantes, pero también representar riesgos cuando no existen límites efectivos. "La IA tiene el potencial de mejorar nuestras vidas, pero sin barreras de protección efectivas, plantea riesgos. Justo esta semana supimos que los sistemas de IA más poderosos representan amenazas reales para la humanidad", afirmó.

La asambleísta Bauer-Kahan, autora de la AB 1405, destacó la necesidad de que las evaluaciones no dependan exclusivamente de las empresas que desarrollan los sistemas. "No podemos esperar que la industria simplemente se ponga una calificación a sí misma. Los auditores externos son esenciales para garantizar que la IA sea segura para nuestras comunidades y nuestra infraestructura crítica", afirmó.

El gobierno estatal sostiene que los últimos incidentes vinculados con estas herramientas refuerzan la necesidad de contar con controles. Con la firma de ambas normas, California queda como el primer estado del país en contar con un esquema de auditorías externas y un registro oficial de verificadores para la inteligencia artificial.