El desafío de la autenticidad en el contenido visual
Un video encantador y auténtico de una cámara de seguridad en Los Ángeles capturó a un coyote saltando en un trampolín. Sin embargo, poco tiempo después, comenzaron a aparecer imágenes similares de animales como canguros, osos y conejos, todos ellos generados por inteligencia artificial (IA). Millones de usuarios compartieron estos clips, creyendo que estaban viendo divertidas interacciones de la vida silvestre. Este fenómeno no solo causó risas, sino que también representó una advertencia.
Las tecnologías de IA han avanzado a un punto donde pueden crear videos que imitan de manera convincente los formatos que usualmente consideramos confiables, tales como grabaciones de cámaras de CCTV, cámaras de salpicadero y de vida silvestre. Estos tipos de contenido son cruciales en la formación de la opinión pública durante situaciones de crisis, y su veracidad se vuelve esencial, ya que los falsos videos se están tornando indistinguibles de los reales.
IA y la creación de noticias falsas
En Storyful, hemos verificado miles de videos para diversos medios de comunicación y marcas alrededor del mundo. Este año decidimos realizar una prueba usando uno de los más recientes modelos de generación de video con IA, alimentándolo con titulares reales de noticias. En cuestión de segundos, generó clips que imitaban la textura de los reportajes actuales de manera increíblemente realista. Acompañados de videos auténticos, incluso periodistas experimentados tuvieron que detenerse a observar los detalles.
Por ejemplo, después de las inundaciones monzónicas en India, un video fidedigno reportaba sobre bomberos rescatando a un hombre que se aferraba a un poste en medio de las aguas, mientras otro clip, totalmente ficticio, fue creado desde la aplicación Sora de OpenAI. Esto demuestra que lo que antes considerábamos un futuro teórico ya está aquí.
Las preocupaciones sobre la veracidad
Las barreras de seguridad en cuanto a la generación de videos están comenzando a fallar. Existen tutoriales en Reddit que enseñan cómo eliminar marcas de agua de contenidos generados por modelos de IA populares, y muchas restricciones se pueden sortear, permitiendo generar contenido altamente realista sin controles. La pregunta ya no es si la IA puede crear videos verosímiles, sino hasta qué punto estas falsificaciones pueden propagarse antes de ser verificadas.
El aspecto más preocupante de los videos generados por IA no es solo su apariencia, sino cómo presentan acciones. Las grabaciones auténticas suelen incluir movimientos vacilantes, ángulos imperfectos y tiempos muertos, mientras que la IA va directo a la acción con encuadres perfectos y una iluminación ideal.
El deterioro de la confianza pública
Un reciente informe de Reuters indica que el 58% de la audiencia global teme no poder diferenciar entre lo real y lo falso en línea. Antes, este temor se asociaba sobre todo a la política; hoy, abarca incluso videos cotidianos. Este cambio indica un escepticismo creciente en la sociedad, donde al cuestionar un video, se comienza a dudar de otros contenidos, afectando la confianza en la información en general.
Identificando videos generados por IA
Si bien existen herramientas de detección de IA útiles, no sustituyen el análisis humano. Las herramientas actuales logran una precisión de entre el 65% y 75% en condiciones ideales, aunque esta cifra disminuye con el tiempo. Algunas pistas que los verificadores utilizan y que el público puede aprender a reconocer incluyen:
- Los videos generados por IA tienden a empezar en momentos culminantes, mientras que los reales muestran tiempos muertos o errores.
- Los sujetos suelen estar perfectamente centrados en el encuadre, algo raro en grabaciones de testigos.
- El movimiento en los videos de IA es demasiado suave y fluido.
- Los detalles, como marcas de tiempo y matrículas, a menudo son aproximados.
- Las situaciones de desastre o vida silvestre generadas parecen demasiado tranquilas comparado con la realidad.
Estas señales de alerta no durarán para siempre, pero actualmente son claves para identificar falsificaciones.
La importancia de la autenticidad
Es fundamental que las plataformas tecnológicas implementen mayores protecciones en sus herramientas de generación de video. A medida que la IA continúa evolucionando, tanto los mecanismos de verificación como las capacidades del público para discernir la verdad deben mejorar. La transparencia en los procesos de verificación es crucial para reconstruir la confianza; el público desea ver cómo los periodistas determinan la autenticidad de los videos. Organizaciones como BBC Verify y CBS News Confirmed están adoptando formatos de verificación avanzados para demostrar su compromiso con la veracidad.
A medida que proliferan los videos generados por IA, la confianza recae en las organizaciones que hacen de la transparencia una parte fundamental de su reportaje. Los recuerdos más impactantes de internet nunca fueron perfectos; eran genuinos y humanos. Aunque la IA puede replicar imágenes, aún no puede captar la aleatoriedad y la imprevisibilidad de la vida real, algo esencial para mantener la confianza del público en los momentos cruciales.
Comments