Imágenes sexuales falsas con inteligencia artificial: el caso de Lomas de Zamora que sacudió a una escuela y abrió un debate nacional

La frase es simple y demoledora: "Aunque sé que es falso, me dio vergüenza." La dijo, en off, una de las adolescentes afectadas por un caso que tiene en vilo a una escuela secundaria de Lomas de Zamora. Resume la paradoja central de lo que pasó: la falsedad técnica de la imagen no anula el daño emocional que causa en quien aparece en ella. Y esa es, justamente, la trampa de los contenidos generados con inteligencia artificial cuando se usan para hostigar a menores.

La historia, que está en manos de la Justicia, involucra a cuatro alumnos del mismo establecimiento que, según la investigación, tomaron fotos públicas de sus compañeras —muchas veces de perfiles abiertos en redes sociales— y las usaron para producir imágenes de contenido sexual con herramientas de IA. Después las distribuyeron en grupos digitales, con indicios firmes de que también circularon por plataformas de mensajería. La causa se caratuló como producción y distribución de material de abuso sexual infantil (MASI), una figura legal que contempla justamente este tipo de situaciones, donde no hubo contacto físico pero sí una afectación profunda a la intimidad y a la dignidad de las víctimas.

Lo que sintieron las chicas

• Vergüenza intensa, incluso sabiendo que la imagen era manipulada.
• Asco y angustia por el solo hecho de ver su rostro en esa situación.
• Miedo a no saber hasta dónde llegó el material y quién lo vio.
• Temor a ser juzgadas o señaladas por el entorno, en lugar de contenidas.
• Sensación de vulnerabilidad frente a algo que no podían controlar.

Una de ellas contó que tardó en hablar con sus padres porque no quería que la vieran "así", pese a saber que la foto estaba trucada. Esa frase, que parece menor, no lo es: describe el corazón del daño. Cuando una adolescente siente que su imagen es usada sin consentimiento, lo que se rompe es la sensación de ser dueña de su propia representación. Y eso ocurre más allá de que el archivo sea real o artificial.

Cómo reaccionó la escuela y la Justicia

Las chicas relataron que fueron al colegio cuando se enteraron de lo que pasaba, pero sintieron que la respuesta institucional fue lenta y tibia. Recién después se organizaron jornadas de diálogo con tutores y equipos de orientación, y los alumnos investigados pasaron a la modalidad virtual. La Justicia, además, ordenó el cese del hostigamiento y pidió medidas para evitar el contacto entre las partes, algo clave en este tipo de casos, donde la reiteración del acoso suele ser tan dañina como el hecho puntual.

La situación escaló hasta una protesta organizada por las propias alumnas frente al colegio. Se sumaron chicos de otros cursos y familias. Los videos de la convocatoria se viralizaron en redes y, rápidamente, empezaron a aparecer testimonios de jóvenes de otros establecimientos que dijeron haber pasado por lo mismo. Eso transformó un hecho aislado en un dato de época: no es un caso único, es la punta de un iceberg.

La mirada de un becario que trabaja el tema

“En el aula y en la facultad lo vemos seguido: los pibes comparten fotos suyas en Instagram, TikTok o hasta en grupos de WhatsApp sin pensar que esa misma foto, dos clics más adelante, puede terminar en una pantalla de una aplicación de IA. El problema no es la foto en sí, es que se publica sin ningún tipo de control sobre su reutilización. Y cuando el material es íntimo o está sacado de contexto, el daño es enorme, aunque la imagen sea falsa.”Joaquín Rinaldi, estudiante de Comunicación y becario en un proyecto de alfabetización digital

La reflexión de Joaquín no es menor. Sirve para poner sobre la mesa un punto que suele quedar invisible: gran parte de la materia prima de estos ataques sale de cuentas públicas o semipúblicas de las propias víctimas. No es que los adolescentes investigados hayan hackeado nada: simplemente agarraron lo que estaba al alcance de todos y lo pusieron a circular en un formato nuevo y mucho más agresivo. Eso no significa que las chicas tengan la culpa, sino que el ecosistema digital en el que crecen tiene reglas flojas para protegerlas.

¿Y eso para qué sirve?

Sirve para varias cosas, y conviene no perderlas de vista. Primero, para recordar que el daño psicológico de una imagen sexual falsa es real y está documentado, incluso cuando la víctima sabe que la foto no es auténtica. La vergüenza, la angustia y el miedo no distinguen entre un archivo robado y uno generado por una máquina: el impacto emocional es prácticamente el mismo. Segundo, para entender que el fenómeno ya dejó de ser una rareza tecnológica y empezó a instalarse en las aulas, en los grupos de WhatsApp y en las conversaciones familiares. Tercero, para que padres, docentes y equipos de orientación tengan una brújula: si un adolescente aparece en una imagen manipulada de este tipo, la respuesta no puede ser "no te preocupes, es un meme" o "no es real". Hay que contener, denunciar y, sobre todo, dejar de mirar para otro lado. Como dijo una de las chicas afectadas, lo que más duele no es la imagen en sí: es descubrir que alguien decidió usar tu cara sin preguntarte, y que el resto del mundo lo vea antes de que vos puedas hacer algo.