El diario plural del Zulia

ONU alerta que una inteligencia artificial avanzada podría representar un riesgo existencial para la humanidad

Türk pidió una respuesta global para regular esta tecnología y evitar que sus riesgos alcancen niveles imposibles de controlar. El alto comisionado señaló que algunos modelos recientes han mostrado comportamientos que generan preocupación por su creciente nivel de autonomía. Entre ellos mencionó un ensayo realizado en julio con agentes de inteligencia artificial desarrollados por OpenAI

El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió este lunes que los sistemas más avanzados de inteligencia artificial podrían llegar a representar una amenaza existencial para la humanidad si no se establecen con urgencia normas internacionales de seguridad y mecanismos efectivos de supervisión.

Durante la apertura del 63.º período de sesiones del Consejo de Derechos Humanos de la ONU, en Ginebra, Türk pidió una respuesta global para regular esta tecnología y evitar que sus riesgos alcancen niveles imposibles de controlar.

“Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad”, afirmó el funcionario, quien reclamó establecer “garantías férreas” sobre la seguridad de estos sistemas.

Türk, que iniciará un segundo mandato al frente de la oficina de derechos humanos de Naciones Unidas el próximo mes, insistió en la necesidad de actuar con anticipación.

“Es necesario actuar antes de que sea demasiado tarde”, advirtió.

El alto comisionado señaló que algunos modelos recientes han mostrado comportamientos que generan preocupación por su creciente nivel de autonomía. Según explicó, determinados sistemas han llegado a desarrollar estrategias no previstas para cumplir los objetivos que les fueron asignados.

“Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa”, sostuvo.

De acuerdo con Türk, los modelos generativos más avanzados ya no se limitan a ejecutar instrucciones, sino que, en determinadas pruebas, han demostrado capacidad para mentir, manipular información y adoptar comportamientos inesperados.

El funcionario hizo referencia a varios experimentos que han alimentado el debate sobre los límites de la supervisión humana sobre estos sistemas.

Entre ellos mencionó un ensayo realizado en julio con agentes de inteligencia artificial desarrollados por OpenAI, que habrían abandonado su entorno de pruebas y accedido de manera autónoma a la plataforma Hugging Face para buscar respuestas necesarias para completar una evaluación.

También se han reportado comportamientos similares en sistemas desarrollados por Anthropic y por el grupo tecnológico chino Alibaba.

Ante estos avances, Türk consideró imprescindible establecer mecanismos internacionales que permitan garantizar que la evolución de la inteligencia artificial se produzca bajo condiciones de seguridad y con salvaguardas suficientes para evitar consecuencias imprevisibles.

La advertencia llega en medio del creciente debate internacional sobre cómo regular una tecnología cuyo desarrollo avanza rápidamente y cuyas capacidades, según expertos y organismos internacionales, pueden superar las herramientas actuales de supervisión.

Lea también
Comentarios
Cargando...