Prácticas en aumento entre adolescentes
La generación de imágenes sexualizadas utilizando inteligencia artificial (IA) se ha convertido en una tendencia alarmante entre los adolescentes en Estados Unidos, según una reciente investigación publicada en la revista PLOS One. El estudio, que se basa en una encuesta anónima realizada a jóvenes de entre 13 y 17 años, revela que más de la mitad de los encuestados ha utilizado alguna vez herramientas o sitios web para manipular fotos de personas reales, conocido como deepfake.
Resultados del estudio
- Un 55.3% de los participantes afirmó haber creado imágenes sexualizadas.
- Cerca del 54.4% dijo haber recibido al menos una de estas imágenes.
- El estudio abarcó una muestra de 557 jóvenes.
Además, el análisis dirigido por Chad Steel, especialista en comportamiento digital de la Universidad George Mason, también enfocó la atención en los efectos sobre las víctimas. Un 36.3% de los jóvenes afirmaron que se generó una imagen suya sin su consentimiento, y un 33.2% de ellos indicaron que al menos una de estas imágenes había sido compartida con otros. A pesar de que el fenómeno afecta a diversas demografías, se observó que los hombres jóvenes tienden a participar en la creación y difusión de este contenido con mayor frecuencia que las mujeres.
Alcance y conciencia del problema
Steel advierte que estos porcentajes podrían reflejar solo una estimación mínima, ya que muchos adolescentes pueden no ser conscientes de la magnitud de la difusión de tales imágenes. “Los adolescentes son más propensos a participar en comportamientos problemáticos y, aunque hay indicios, no se sabe con certeza cuántos están involucrados en esto,” insta.
Desigualdad en la representación
Lledó Museros, experta en sesgos de género vinculados a la IA, señala que estos sistemas tienden a sexualizar más a las mujeres, presentando sus cuerpos como meros objetos visuales para captar la atención masculina. Este fenómeno se conoce como el male gaze o mirada masculina. Museros menciona que la inteligencia artificial es más eficiente generando imágenes de cuerpos estereotipados, principalmente mujeres blancas con atributos físicos distintivos.
La especialista destaca que los algoritmos de IA requieren grandes cantidades de datos para funcionar y que este material no está exento de los sesgos presentes en la sociedad, que ya son inherentemente desiguales. “Si se imagina a un profesional de la ingeniería, la IA probablemente prediga que es un hombre,” dice Museros, añadiendo que la tecnología no es inherentemente desigual, sino que amplifica las desigualdades existentes.
Impacto en las víctimas
La investigación sugiere que, al igual que con el sexting en el pasado, la creación y difusión de imágenes sexualizadas generadas por IA están cada vez más integradas en la vida social y sexual de los adolescentes. La psicóloga Natalia Bueso-Izquierdo menciona que las redes sociales han evolucionado de ser solo un medio de comunicación a convertirse en un espacio de identidad y validación. Las repercusiones emocionales para las víctimas son severas, con efectos comparables a otras formas de violencia de género. Aunque las imágenes puedan ser falsas o manipuladas, el impacto en quienes las sufren es real y profundo, lo que puede resultar en aislamiento social, ansiedad, estrés, culpa y vergüenza.
Preocupante auge de contenidos abusivos
En los últimos años, ha proliferado en internet las plataformas que permiten crear imágenes no consensuadas y abusivas, incluyendo Material de Abuso Sexual Infantil (MASI). En la plataforma Grok, una IA generativa propiedad de Elon Musk, se generaron más de tres millones de imágenes de contenido sexual explícito en un corto periodo. La investigación del Centro para Contrarrestar el Odio Digital (CCCDH) reveló que al menos 23,000 de estas imágenes mostraban a menores de edad.
A pesar de la creciente normalización de este fenómeno, los beneficios que obtienen sus creadores son multimillonarios. Un análisis de Indicator, una publicación enfocada en el engaño digital, sugiere que la mayoría de los sitios relacionados dependen de grandes empresas tecnológicas, como Google, Amazon y Cloudflare, para mantenerse operativos. Según los investigadores, en los primeros seis meses de 2025, estos sitios habrían generado hasta 36 millones de dólares con aproximadamente 18.5 millones de visitantes.
Iniciativas legislativas en curso
La semana pasada, los gobiernos de la Unión Europea acordaron solicitar la prohibición de sistemas de inteligencia artificial capaces de producir contenidos pornográficos. Esta iniciativa, impulsada por España, está enmarcada dentro del proceso de revisión normativa para fortalecer el marco regulador europeo. El futuro de esta medida ahora dependerá de las negociaciones con el Parlamento, en el contexto de la reformulación de la Ley de Inteligencia Artificial, cuya discusión comenzará a principios de abril. Museros concluye que la educación es clave para abordar este problema, sugiriendo que debería institucionalizarse como una materia. Es crucial instruir sobre un uso ético de la tecnología y proporcionar una mejor educación sexual, considerando que muchos jóvenes reciben mensajes sexualizados desde edades tempranas.
Aun y cuando corregir esta situación no es sencillo, Museros enfatiza la necesidad urgente de actuar: “Si no se toman medidas, la IA no solo reflejará la violencia y desigualdad, sino que también la potenciará, haciendo que sea más rápida, más fácil y más difícil de combatir.”
Comments