Florida pide frenar a ChatGPT: solicita una cautelar contra OpenAI y Sam Altman

Florida profundizó su disputa judicial con la inteligencia artificial al pedir una medida cautelar contra OpenAI y su director ejecutivo, Sam Altman. La solicitud busca frenar el desarrollo de ChatGPT bajo las condiciones actuales y restringir varias de sus funciones mientras avanza la demanda estatal. El pedido quedó formalizado el 28 de septiembre.

El fiscal general de Florida, James Uthmeier, sostuvo que la empresa no tiene capacidad suficiente para regular su propia tecnología y reclamó que un tribunal intervenga durante el proceso. La presentación ante la Justicia amplía las medidas que el estado pretende obtener contra uno de los principales laboratorios de IA del mundo.

Según el planteo, OpenAI no debería desarrollar nuevos modelos de inteligencia artificial sin supervisión externa. Uthmeier también pidió que la compañía mantenga a los menores de edad fuera de ChatGPT y que el servicio deje de atribuir características humanas a la plataforma.

La ofensiva se suma a la regulación escolar sobre IA que Florida aprobó en septiembre. Esas normas exigen transparencia sobre las herramientas utilizadas en las escuelas públicas, consentimiento de los padres para determinadas interacciones y alternativas sin IA para los estudiantes que no participen.

La disputa comenzó meses antes. El 1° de junio, la misma oficina anunció una demanda civil contra OpenAI y Altman por presuntas prácticas engañosas y daños a residentes del estado. La fiscalía acusó a la compañía de priorizar la velocidad de lanzamiento y los beneficios comerciales por encima de la seguridad de los usuarios.

El reclamo estatal sostuvo que ChatGPT llegó al público, incluso a menores, pese a advertencias internas y externas sobre posibles riesgos. También atribuyó a la plataforma fallas vinculadas con autolesiones, violencia, recolección de datos de menores y errores que, según la demanda, OpenAI minimizó.

La fiscalía relacionó el caso con una investigación penal iniciada después del tiroteo del 17 de abril de 2025 en la Universidad Estatal de Florida. El comunicado oficial señaló que los fiscales revisaron conversaciones entre ChatGPT y Phoenix Ikner, autor del ataque que dejó dos muertos y varios heridos. En otro episodio del estado, OpenAI alertó al FBI por un hombre que usó la plataforma para detallar planes violentos contra su expareja.

La solicitud pretende imponer una autorización previa antes de que OpenAI lance nuevos modelos, con una revisión de seguridad de terceros. La presentación también cita incidentes como el acceso no autorizado a la plataforma Hugging Face y un episodio vinculado con un sistema de salud del gobierno australiano. Esos antecedentes forman parte del argumento de Florida sobre los límites de la autorregulación de las empresas de IA.

El gobernador Ron DeSantis también cuestionó a las empresas de inteligencia artificial y rechazó posibles rescates federales para compañías del sector. La postura del estado combina la presión judicial con un marco regulatorio propio que ya alcanza a las escuelas.