"Aunque sé que es falso, me dio vergüenza": el caso de Lomas de Zamora que expone el daño real de las imágenes fabricadas con IA

En algún momento del año pasado, dentro de un aula cualquiera de un colegio secundario de Lomas de Zamora, una adolescente miró su celular y entendió que algo de su intimidad estaba circulando en grupos de mensajería sin que ella lo hubiera decidido, sin que ella hubiera siquiera estado presente en la escena. Lo que vio no era una foto sacada en un pasillo ni en un baño ni en una fiesta: era una imagen ensamblada por una computadora a partir de fotografías que ella misma había subido a sus redes sociales, tomadas de sus perfiles públicos y luego manipuladas con herramientas de inteligencia artificial para colocarla en escenas de contenido sexual. La chica lo supo de inmediato, supo que era falso, y sin embargo, como ella misma le contó después a su familia, "aunque sé que es falso, me dio vergüenza".

Una investigación que todavía está en marcha

La causa, que tramita en la Justicia bajo la figura de producción y distribución de material de abuso sexual infantil (MASI), tiene cuatro menores señalados como sospechosos, a los que la Justicia ya les realizó procedimientos en el marco de la investigación. Los adolescentes investigados fueron pasados a la modalidad virtual mientras avanza la causa, y el juzgado interviniente dictó una medida de cese de hostigamiento y pidió que se evitaran contactos entre las partes. Los grupos donde circulaban las imágenes se conformaron entre alumnos del propio establecimiento, con indicios de que el material también salió de esa burbuja y alcanzó plataformas de mensajería más amplias, lo que dejó a las víctimas frente a una preocupación que ninguna de ellas pudo sacarse de la cabeza durante semanas: la de no saber hasta dónde había llegado algo que se había fabricado a partir de una foto de un cumpleaños o de una salida con amigas.

“"Creemos que pudo haber llegado a cualquier parte del mundo."”Una de las adolescentes afectadas

Esa frase, pronunciada por una de las alumnas durante una de las reuniones que mantuvo con su familia, condensa el punto más sensible del fenómeno que golpeó a la comunidad educativa de Lomas de Zamora: la falsedad técnica del material no se traduce, automáticamente, en una ausencia de daño para quien aparece representado en él. Las víctimas relataron, en sus propios testimonios y en reuniones con el equipo de orientación del colegio, sensaciones de asco, de vergüenza y de miedo; una describió que tardó en contarles a sus padres porque no quería que la vieran "así", aunque supiera que la imagen no era real. Esa distancia entre el convencimiento intelectual de que el material es manipulado y la respuesta emocional del cuerpo y de la intimidad es, justamente, lo que vuelve a estos casos tan difíciles de procesar y, también, tan difíciles de contener desde una institución escolar.

La respuesta institucional y la reacción de las alumnas

Cuando las adolescentes advirtieron lo que estaba pasando, fueron ellas las que dieron el primer paso: fueron al colegio a preguntar, a pedir explicaciones, a marcar que algo no estaba bien. Las alumnas afectadas coincidieron en que la respuesta institucional llegó tarde y que, al principio, no se sintió a la altura de la situación. Más adelante, las autoridades del establecimiento organizaron jornadas de diálogo con los cursos involucrados, convocaron a las familias y dispusieron el pase a la virtualidad de los menores investigados. La medida, aunque entendida como necesaria, no terminó de aplacar el malestar. Lo que terminó de darle volumen público al reclamo fue una protesta que las propias alumnas organizaron frente al colegio, con participación de estudiantes de distintos cursos y de varias familias, y que se replicó en redes sociales a través de videos que rápidamente reunieron testimonios de jóvenes de otros establecimientos diciendo que habían vivido situaciones parecidas, lo que dejó en evidencia que lo de Lomas de Zamora no fue un hecho aislado sino la cara más visible de algo que ya estaba pasando en otras aulas.

• Las fotografías de origen se tomaron de perfiles públicos en redes sociales de las propias víctimas, lo que vuelve a poner el foco en qué se comparte y con qué configuración de privacidad.
• Las imágenes manipuladas circularon primero en grupos digitales cerrados entre alumnos del colegio, con indicios de difusión en servicios de mensajería.
• La Justicia investiga a cuatro menores por producción y distribución de material de abuso sexual infantil (MASI) y realizó allanamientos en el marco de la causa.
• Las víctimas relataron vergüenza, asco, miedo y sensación de vulnerabilidad, aun sabiendo que el material era técnicamente falso.
• Las adolescentes afectadas y sus familias cuestionaron la respuesta inicial del colegio, que luego incluyó jornadas de diálogo y el pase a la virtualidad de los alumnos investigados.
• El caso derivó en una protesta de estudiantes frente al establecimiento y en una ola de testimonios de jóvenes de otros colegios que atravesaron situaciones similares.

Qué deja este caso, más allá de Lomas de Zamora

El episodio, más allá de lo que termine resolviendo la Justicia, deja un mapa de preguntas que vuelve a poner en el centro a los adultos que acompañan a los adolescentes: padres, madres, docentes, equipos de orientación y directivos. ¿Qué se hace cuando el material que se usa para agredir no fue sacado a escondidas sino que salió, en parte, de lo que la propia víctima publicó? ¿Cómo se contiene un daño emocional que la víctima misma registra como irracional, porque sabe que la imagen es falsa y aun así no puede dejar de sentirla como propia? ¿Cuánto tarda una escuela en reaccionar cuando lo que se denuncia no es un hecho físico sino algo que circula en grupos de WhatsApp? La adolescente de Lomas de Zamora que arrancó esta nota lo había dicho con la lucidez simple de quien todavía está procesando lo que le pasó: aunque sepa que es falso, le dio vergüenza. Esa vergüenza es la prueba de que el daño ya existió. Y es también la razón por la que, como comunidad, no alcanza con decir que "la imagen no es real": hay que hacerse cargo, en serio, de lo que igualmente provoca.