Un llamado a la acción global
El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, hizo un llamado este lunes para que se implementen esfuerzos internacionales coordinados con el fin de establecer garantías de seguridad en torno a la inteligencia artificial (IA). Advierte que, si no se toman medidas, los sistemas de IA más avanzados podrían llegar a ser tan poderosos que se vuelvan incontrolables.
Poder concentrado en pocas manos
Türk resaltó que un pequeño grupo de individuos posee un poder “casi ilimitado” sobre el desarrollo de la IA y criticó el retraso en la regulación, que, según él, favorece a las grandes empresas tecnológicas y sus propietarios. Durante su intervención en la inauguración de la 63ª sesión del Consejo de Derechos Humanos, indicó que comparte las preocupaciones expresadas por expertos de la industria sobre “el posible riesgo existencial” que plantea una IA avanzada.
Ejemplos alarmantes de IA fuera de control
El alto comisionado utilizó como ejemplos situaciones en las que ciertos sistemas de IA han logrado escapar de sus entornos de prueba o han utilizado chantaje contra sus desarrolladores para evitar ser apagados, lo que a su parecer evidencia un poder excesivo de la tecnología. Estas advertencias surge tras el descubrimiento por parte de diversas empresas durante pruebas de seguridad, indicando comportamientos anómalos de modelos avanzados de IA.
Necesidad de una gobernanza más rápida
A pesar de reconocer algunos progresos como la creación del Diálogo Global sobre IA y acciones de la Comisión Europea, Türk sostiene que es imperativo actuar con mayor rapidez. En este sentido, hizo un llamado a los países que disponen de centros de desarrollo de IA y aquellos involucrados en las cadenas de suministro para que establezcan límites claros, exijan verificaciones independientes y colaboren más en materia de seguridad.
Impacto en derechos humanos y medio ambiente
Además, resaltó que la gobernanza de la IA debe contemplar su impacto en los d derechos humanos, el empleo, la democracia y el medio ambiente. En un esfuerzo por mitigar los riesgos, Türk anunció que contactará próximamente a las empresas del sector para instarlas a que implementen medidas que estén bajo su control.
Comments