ONU advierte que la inteligencia artificial pone en riesgo todos los derechos humanos
Volker Türk pidió acelerar la regulación de los sistemas más avanzados y establecer controles independientes sobre su desarrollo
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, alertó sobre los riesgos que plantea el avance acelerado de la inteligencia artificial (IA) y advirtió que sus efectos podrían alcanzar derechos fundamentales como la vida, la privacidad, la salud, la alimentación y la seguridad.
En un comunicado, el funcionario señaló que la actual competencia por desarrollar sistemas de IA cada vez más potentes representa un aumento significativo de los riesgos para distintos ámbitos de la sociedad. A su juicio, la seguridad de estas tecnologías no puede limitarse a comprobar que funcionen correctamente, sino que debe contemplar la protección de las personas, las comunidades, las instituciones y las futuras generaciones.
Türk puso especial atención en los sistemas de IA agéntica, capaces de operar con cierto grado de autonomía, debido a que eventuales fallas podrían afectar servicios esenciales, comunicaciones, infraestructuras críticas e incluso instituciones democráticas.
Ante este escenario, el representante de la ONU pidió avanzar con carácter urgente hacia una corregulación de la industria y mecanismos de verificación independientes y técnicamente competentes. También reclamó fortalecer las normas existentes y establecer responsabilidades por los daños que puedan provocar sistemas de IA que ya se encuentran en funcionamiento.
La advertencia se produce en medio del creciente debate dentro de la propia industria tecnológica. El director ejecutivo de Anthropic, Dario Amodei, ha defendido una desaceleración en la carrera por desarrollar modelos más avanzados y ha alertado sobre la posibilidad de que sistemas futuros alcancen capacidades difíciles de controlar.
Mientras algunas compañías y especialistas reclaman mayores salvaguardas, el presidente de Estados Unidos, Donald Trump, ha rechazado la idea de frenar el desarrollo de la IA, al considerar que mantener el liderazgo frente a China es estratégico para su país.
El debate también ha llegado a Pekín, que pidió establecer una "barrera de seguridad" para el desarrollo de estas tecnologías y advirtió que la IA se está convirtiendo en un nuevo escenario de competencia entre grandes potencias.
Para Türk, uno de los principales problemas radica en que un número reducido de grandes empresas concentra buena parte del desarrollo de la IA más avanzada, por lo que consideró necesario que esas compañías asuman responsabilidades y colaboren para mejorar los controles de seguridad.
El funcionario de Naciones Unidas insistió en que las empresas deben implementar mecanismos de vigilancia del comportamiento de los modelos, compartir información sobre incidentes de seguridad y someter sus estándares a supervisión interna e independiente, con el objetivo de aumentar la transparencia y la rendición de cuentas.