La ONU pidió establecer límites internacionales al desarrollo de sistemas avanzados y garantías de seguridad antes de que sus capacidades sigan aumentando.
La inteligencia artificial avanzada podría llegar a representar un “riesgo existencial para la humanidad”, advirtió este lunes el alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, quien pidió acelerar la adopción de medidas internacionales para controlar sus riesgos.
Türk hizo el pronunciamiento durante la apertura del 63.º periodo de sesiones del Consejo de Derechos Humanos de Naciones Unidas, en Ginebra, donde cuestionó que el reconocimiento de los riesgos asociados con esta tecnología no haya avanzado al mismo ritmo que su regulación.
El alto comisionado reclamó garantías de seguridad para los sistemas de inteligencia artificial y pidió que los países donde se desarrolla esta tecnología, así como aquellos que participan en sus cadenas de suministro, acuerden “líneas rojas” sobre capacidades y usos que no deberían permitirse.
Entre sus preocupaciones se encuentra la creciente capacidad de algunos sistemas para actuar con mayor autonomía. Türk señaló que una IA capaz de escapar de su entorno de pruebas o de chantajear a sus desarrolladores para evitar ser apagada debe considerarse demasiado poderosa.
También cuestionó la concentración del desarrollo de esta tecnología. Según el funcionario, un reducido grupo de personas tiene un poder casi ilimitado sobre la inteligencia artificial, por lo que planteó que las decisiones sobre sus límites y seguridad no pueden quedar exclusivamente en manos de las empresas que desarrollan estos sistemas.
Türk pidió además evaluar las consecuencias de la inteligencia artificial sobre el empleo, los principios democráticos y el medioambiente, y reclamó mecanismos independientes que permitan verificar la seguridad de los sistemas.
El uso militar fue otro de los asuntos abordados. El alto comisionado reiteró su preocupación por las armas autónomas y respaldó el establecimiento de límites internacionales frente a sistemas capaces de tomar decisiones letales sin un control humano suficiente.
