Escuelas argentinas en alerta por alumnos que trucan fotos de compañeras con IA

Una foto, una inteligencia artificial y un solo clic. En un grupo de WhatsApp entre compañeros empiezan a circular imágenes sexuales y una alumna descubre que su cara fue montada sobre un cuerpo desnudo. La escena se repite cada vez más en las escuelas argentinas y encendió una señal de alarma entre directivos y familias.

El caso del Colegio Modelo de Lomas de Zamora, donde estudiantes habrían usado IA para desnudar a sus compañeras, volvió a poner en alerta a los establecimientos sobre el uso incorrecto de esta herramienta y la violencia digital. Las familias estiman que hay entre 30 y 40 alumnas afectadas.

“Hay una preocupación creciente en los colegios sobre la IA”, sostiene Martín Zurita, secretario ejecutivo de la Asociación de Institutos de Enseñanza Privada de Argentina (AIEPA). Para el dirigente, el escenario obliga a revisar cómo se acompaña a los chicos en el uso de estas herramientas.

“La tecnología avanza más rápido que nuestra capacidad de adaptación y nos obliga a revisar permanentemente cómo educamos, prevenimos y acompañamos”, remarca. Desde la entidad aseguran que el tema surge cada vez más en las reuniones con directivos y representantes legales de todo el país.

El protocolo que AIEPA indica a sus escuelas asociadas implica comunicar la situación a la inspección de la Dirección General de Escuelas y realizar la denuncia ante el Ministerio Público Fiscal. También proteger a las alumnas y disponer la prohibición de contacto. “Las adecuaciones deberían recaer prioritariamente sobre los estudiantes señalados, no sobre las víctimas”, señala el texto.

Zurita plantea que ninguna acción será suficiente si la escuela y las familias no trabajan en paralelo. “Muchas de estas conductas ocurren fuera del ámbito escolar, a través de dispositivos y accesos tecnológicos que los chicos utilizan también en sus hogares”, explica.

La causa está a cargo del fiscal Mariano Bonilla, de la UFI N° 6 del Fuero de Responsabilidad Penal Juvenil de Lomas de Zamora. Hay cuatro adolescentes identificados y se les secuestraron dispositivos electrónicos. También se solicitaron medidas cautelares y prohibiciones de acercamiento. “Por el momento, no identificamos que esté un adulto detrás de todo esto”, señalaron fuentes cercanas a la investigación.

El colegio dispuso que los alumnos identificados cursen de manera virtual y definirá las sanciones el lunes 19 de octubre. El material estaba organizado en una suerte de catálogo con los nombres de las chicas, fotos tomadas de sus redes sociales y versiones manipuladas para simular desnudos.

Lo de Lomas de Zamora no es un caso aislado. En la misma semana se conoció otro episodio en Ituzaingó, donde una adolescente de 15 años recibió mensajes de desconocidos que la invitaban a salir. Al ingresar a un enlace de Telegram, encontró un chat con contenido pornográfico. Según la denuncia de su madre, un compañero de cuarto año del Colegio Thomas Edison le habría reconocido que descargó fotos de sus redes, las manipuló con IA y las publicó en ese grupo.

Esa causa quedó a cargo de la Fiscalía de Responsabilidad Penal Juvenil N° 2 de Morón y fue caratulada como presunta tenencia de representaciones sexuales de menores de 18 años con fines de distribución o comercialización. A fines de julio, los principales secundarios de la UBA, el Carlos Pellegrini y el Nacional de Buenos Aires también se vieron envueltos en un escándalo similar.

Los datos acompañan la preocupación. Un informe de la Defensoría del Pueblo de la Ciudad de Buenos Aires advierte sobre los deep fakes como nueva forma de violencia digital entre adolescentes. El relevamiento, realizado entre 912 estudiantes de 12 a 19 años, muestra que el 1% dijo haber sido víctima directa, mientras que el 13% conoce casos en su entorno escolar. Además, el 43% aseguró haber recibido imágenes o videos manipulados con inteligencia artificial.

El desafío para las instituciones es cómo intervenir y cómo evitar que la producción y difusión de imágenes falsas se naturalice como una “simple broma” entre compañeros. En ese marco, los agentes de IA que ya operan dentro de las aplicaciones de mensajería vuelven más difícil el control parental, tal como se analiza en los agentes de IA en mensajes.

Un negocio detrás de las imágenes

Ana Correa, especialista en violencia digital y autora del libro Ciberfeminismo. La hora de la acción, sostiene que el problema no puede reducirse al comportamiento individual de los adolescentes. También hay que mirar a las empresas que desarrollan las herramientas, a las plataformas que distribuyen las imágenes y a los servicios que permiten que circulen y se moneticen.

“Las plataformas tienen muchísima responsabilidad”, afirma. Y agrega: “La pregunta central es: ¿quién está ganando dinero con la posibilidad de fabricar imágenes sexuales de mujeres, niñas y adolescentes sin su consentimiento?”.

Correa advierte que no hace falta ingresar en circuitos clandestinos para encontrar este tipo de tecnología. Existen IA creadas específicamente para simular desnudez y modelos que pueden ejecutarse en computadoras personales. Por eso, sostiene que no corresponde hablar de una supuesta deep web de inteligencia artificial: muchas de estas herramientas están disponibles en la web común y, en ocasiones, dentro de circuitos comerciales accesibles.

El avance de estos modelos se da en paralelo a la expansión de asistentes que compran y ejecutan tareas por los usuarios, como los agentes de IA que ya compran en tiendas, lo que amplía el terreno de exposición digital de los menores.