Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos, advirtió que una IA fuera de control podría representar un riesgo existencial y pidió reglas vinculantes.
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, lanzó una advertencia sobre el desarrollo acelerado de la inteligencia artificial y pidió establecer controles antes de que algunos sistemas puedan superar la capacidad de supervisión de sus propios desarrolladores.
Durante una intervención ante el Consejo de Derechos Humanos de la ONU, en Ginebra, Türk señaló que la tecnología requiere normas obligatorias, mecanismos de supervisión independientes y límites definidos para evitar escenarios en los que la inteligencia artificial pueda operar fuera del control humano.
El funcionario planteó incluso la posibilidad de que determinados sistemas alcancen capacidades que dificulten su desconexión o supervisión.
ONU pide controles estrictos para la inteligencia artificial
Türk consideró necesario impulsar una estrategia internacional que involucre a los países donde se desarrollan estas tecnologías y a las empresas que participan en sus cadenas de suministro.
Entre las medidas que planteó se encuentran una verificación independiente de los sistemas de IA y una cooperación más estrecha entre las compañías que trabajan en el desarrollo de estas herramientas.
El Alto Comisionado también advirtió que el problema no se limita a la seguridad tecnológica.
A su juicio, la concentración de recursos, datos y capacidades de inteligencia artificial en un grupo reducido de empresas y personas puede generar importantes riesgos para la sociedad.
Por ello, defendió que la IA debe desarrollarse bajo principios que prioricen los derechos humanos, la democracia, el empleo y la protección del medio ambiente.
Volker Türk cuestiona el uso de IA en armas
Uno de los principales motivos de preocupación para el funcionario es la incorporación de inteligencia artificial a los conflictos armados.
Türk manifestó su rechazo al desarrollo de armas autónomas capaces de tomar decisiones letales sin intervención humana directa.
El Alto Comisionado mencionó informes sobre drones completamente autónomos que presuntamente habrían sido utilizados en la guerra entre Rusia y Ucrania.
También señaló que Ucrania ha realizado pruebas con este tipo de tecnología, mientras continúa el debate internacional sobre los límites que deberían aplicarse a las armas impulsadas por inteligencia artificial.
Ante el Consejo de Derechos Humanos, Türk respaldó los llamados para establecer una prohibición urgente sobre sistemas capaces de decidir por sí mismos cuándo quitar una vida.
ONU alerta por aumento de conflictos armados
La advertencia sobre la inteligencia artificial se produjo en un contexto internacional marcado por la proliferación de conflictos.
Türk expresó preocupación por el número de guerras activas y señaló que actualmente existen más de 60 conflictos en los que participa al menos un Estado.
Según el funcionario, este nivel de confrontación representa una situación que no se observaba desde el final de la Segunda Guerra Mundial.
Además, manifestó preocupación por la reanudación de las hostilidades entre Estados Unidos e Irán, así como por sus posibles consecuencias para la población civil y la estabilidad internacional.
Volker Türk condena violencia en Gaza y Cisjordania
Durante su intervención, el Alto Comisionado también se refirió a la situación en Gaza y Cisjordania ocupada.
Türk condenó los ataques israelíes en Gaza y las restricciones que, según Naciones Unidas, afectan el ingreso de ayuda humanitaria.
También rechazó los planes relacionados con un posible desplazamiento forzoso de población palestina y cuestionó declaraciones de funcionarios israelíes que consideró deshumanizadoras.
Al mismo tiempo, condenó presuntas ejecuciones y actos de tortura atribuidos a grupos armados vinculados con Hamás.
En el caso de Cisjordania, pidió medidas contra la anexión y la expansión de asentamientos israelíes.
Asimismo, llamó a revisar la transferencia de armas cuando exista el riesgo de que puedan facilitar violaciones al derecho internacional.
Derechos humanos, el principio que debe guiar la IA
Para Volker Türk, el desarrollo tecnológico no puede separarse de las consecuencias que la inteligencia artificial tendrá sobre las personas.
El funcionario planteó que la tecnología debe estar orientada a mejorar las condiciones de vida y no a concentrar poder sin mecanismos suficientes de rendición de cuentas.
La discusión internacional sobre la IA ha aumentado conforme avanzan los sistemas capaces de generar contenido, tomar decisiones y operar con distintos niveles de autonomía.
Ante este escenario, la ONU busca que los gobiernos establezcan mecanismos de control que permitan aprovechar los beneficios de la tecnología sin dejar de lado la protección de los derechos humanos.
