Una fotografía que nunca se tomó. Un video de algo que jamás ocurrió. Un desnudo que nunca existió. La inteligencia artificial abrió la posibilidad de fabricar imágenes cada vez más difíciles de distinguir de las reales y agregó una nueva dimensión a un problema que las escuelas ya enfrentaban: la violencia digital entre adolescentes.

El fenómeno llegó esta semana a la Legislatura bonaerense. La comisión de Educación de la Cámara de Diputados dio dictamen favorable a la denominada Ley Ema, que propone incorporar una política que brinde herramientas de prevención y abordaje de la violencia digital en todos los niveles educativos de la provincia de Buenos Aires.

La iniciativa lleva el nombre de Ema Bondaruk, la adolescente de 15 años de Longchamps que se quitó la vida el 24 de agosto de 2024, un día después de que un compañero difundiera sin su consentimiento un video íntimo de ambos.

Casi dos años después, la tecnología agregó una posibilidad inquietante: ya ni siquiera es necesario que una imagen íntima exista para que pueda ser utilizada como instrumento de violencia.

Cuando lo falso también produce un daño real

El proyecto incorpora expresamente entre las situaciones que deberán abordarse en las escuelas la difusión no consentida de material sexual o de desnudez, tanto real como editado o producido mediante inteligencia artificial y otras tecnologías digitales.

También incluye grooming, sextorsión, ciberacoso, suplantación de identidad, discursos de odio y otras formas de violencia ejercidas mediante dispositivos y plataformas digitales.

La preocupación por la inteligencia artificial no es solamente preventiva. Más de la mitad de los chicos y adolescentes argentinos de entre 9 y 17 años ya utiliza herramientas de IA, según el estudio Kids Online Argentina 2025, elaborado por UNICEF y UNESCO. Entre quienes las utilizan, dos de cada tres lo hacen con fines escolares.

La misma tecnología que entró a las aulas como herramienta educativa permite además crear los denominados deepfakes, contenidos generados o manipulados digitalmente capaces de representar a una persona haciendo o diciendo algo que nunca hizo ni dijo.

Una de sus derivaciones más sensibles es la llamada “nudificación”: a partir de una fotografía convencional, herramientas de inteligencia artificial pueden generar una imagen falsa de desnudez.

UNICEF advirtió este año sobre el crecimiento global del fenómeno. Un relevamiento realizado junto con ECPAT e Interpol en once países estimó que al menos 1,2 millones de chicos manifestaron haber sufrido durante el último año la manipulación de sus imágenes mediante deepfakes sexualmente explícitos.

Aunque no existen estadísticas equivalentes para la Argentina, los indicadores locales muestran que la violencia digital ya forma parte de la experiencia cotidiana de muchos adolescentes. En una consulta realizada por UNICEF entre jóvenes argentinos de 13 a 24 años, tres de cada diez dijeron haber sufrido ciberbullying, un 29% situaciones de grooming y cuatro de cada diez haber recibido mensajes sexuales sin consentimiento.

Una ley nacida de un caso real

La muerte de Ema puso en evidencia en 2024 las consecuencias que puede alcanzar la difusión de contenido íntimo sin consentimiento. Su caso impulsó distintas iniciativas para dotar a las escuelas de herramientas que permitan prevenir esas situaciones y actuar cuando ocurren.

El proyecto que ahora avanzó en Diputados propone incorporar a la Ley Provincial de Educación contenidos vinculados con ciudadanía digital, consentimiento, privacidad, protección de datos personales y uso ético y crítico de la inteligencia artificial.

También dispone la actualización de la guía provincial para el abordaje de situaciones conflictivas en el ámbito escolar. El protocolo deberá contemplar el cese de la vulneración, la preservación de la prueba digital evitando la revictimización y la intervención de los Equipos de Orientación Escolar.

A eso se suma una capacitación obligatoria y permanente para docentes, directivos y demás trabajadores del sistema educativo.

La iniciativa, impulsada por la diputada de Fuerza Patria Mayra Mendoza, obtuvo dictamen favorable por mayoría. Los dos representantes de La Libertad Avanza que integran la comisión de Educación votaron en contra, una decisión que fue cuestionada públicamente por la legisladora.

En paralelo, el Senado bonaerense analiza otra iniciativa vinculada con la misma problemática.

La discusión legislativa ocurre mientras la tecnología avanza a una velocidad difícil de acompañar mediante leyes y protocolos. Cuando murió Ema, el daño comenzó con la difusión de una imagen íntima que era real. Hoy, una fotografía cotidiana publicada en una red social puede ser suficiente para fabricar otra que nunca existió.
 

La imagen puede ser falsa. La exposición, la humillación y sus consecuencias, no.