Investigación sobre la red social X
La Comisión Europea ha iniciado una investigación contra la red social X, que es de propiedad de Elon Musk, debido a la generación de imágenes sexuales falsas usando inteligencia artificial. Estas imágenes comprometen la representación de mujeres y menores desnudos. Asimismo, se ha anunciado que el organismo elevará los controles para asegurar la protección de los usuarios y el cumplimiento de las normativas digitales presentes.
Funciones del asistente de IA en X
El enfoque de la investigación se centra en Grok, el asistente de inteligencia artificial de X, que permite la creación de imágenes falsas de desnudos a partir de fotos reales. Bruselas advierte que esta actividad podría contravenir las obligaciones estipuladas por la Ley de Servicios Digitales (DSA), que obliga a las plataformas a resguardar a los usuarios ante contenidos ilegales y nocivos.
Declaraciones de la presidenta de la Comisión Europea
La presidenta de la Comisión, Ursula von der Leyen, enfatizó la seriedad de la decisión. “Europa no tolerará comportamientos insensatos“, aseguró, refiriéndose directamente a “las imágenes falsas de desnudos de mujeres y niños”. Además, reiteró: “Nuestra posición es clara: no confiaremos el consentimiento ni la protección de la infancia a plataformas tecnológicas que puedan vulnerarlos y monetizarlos”.
Antecedentes y preocupaciones europeas
Esta investigación pondrá a prueba si X ha incumplido las normativas europeas del ámbito digital de manera reiterada. Aunque la compañía había limitado el acceso a la función de creación de desnudos, a mediados de enero comunicó que restringiría su uso solamente en naciones donde este tipo de imágenes es ilegal, lo que generó preocupación en Bruselas.
- Se ampliará el alcance de una investigación previa abierta en diciembre de 2023 contra X, también bajo la DSA.
- Esta investigación anterior já derivó en una multa de 120 millones de euros, marcando un punto relevante en la relación entre la UE y la red social.
Imágenes sexualizadas en cortos períodos
Los datos de organizaciones civiles han aumentado la inquietud en Europa. Un informe del Center for Countering Digital Hate indicaba que Grok generó cerca de tres millones de imágenes sexualizadas de mujeres y niños en apenas 11 días, lo que resulta en un promedio de 190 imágenes por minuto. Por otro lado, una investigación de AI Forensics determinó que más del 50% de las 20,000 imágenes analizadas mostraban personas con poca ropa: el 81% eran mujeres y el 2% aparentaban ser menores de edad.
Acciones legales y tensiones con EE. UU.
Diversos países europeos, como Francia y Reino Unido, han iniciado procedimientos legales y, en ciertos casos, han suspendido o bloqueado el acceso a X. Esta nueva ofensiva regulatoria también podría intensificar las tensiones con Estados Unidos. El ex-presidente Donald Trump ha acusado reiteradamente a Bruselas de atacar a las grandes tecnológicas estadounidenses.
En diciembre pasado, la administración estadounidense impuso sanciones al excomisario Thierry Breton, que promovió la DSA, y a otros funcionarios relacionados con la regulación del sector tecnológico y la lucha contra la desinformación. Sin embargo, la Comisión Europea sigue dedicada a su objetivo primordial: reforzar la protección de los ciudadanos y establecer límites claros sobre el uso de la inteligencia artificial en plataformas digitales.
Comments