La ONU también advierte sobre los riesgos de la inteligencia artificial y lo tratarán en la Asamblea General
Un panel científico de la ONU insta a los gobiernos a actuar ante los peligros emergentes de la inteligencia artificial, justo cuando líderes mundiales se reúnen en Nueva York para discutir el tema. La falta de certeza científica no debe ser un obstáculo para implementar medidas preventivas.
La inteligencia artificial se ha convertido en un tema crucial en la agenda diplomática global, justo cuando líderes de todo el mundo se congregan en Nueva York para la Asamblea General de la ONU. En este contexto, un panel científico de la organización ha emitido un informe que subraya la necesidad urgente de que los gobiernos controlen a los agentes de IA cada vez más capaces, antes de que sus riesgos sean completamente comprendidos.
Este informe, el primero de su tipo del Independent International Scientific Panel on AI, destaca que la comunidad internacional no puede esperar a que la ciencia explique todos los incidentes relacionados con la IA para implementar salvaguardias más estrictas. El riesgo de pérdida de control, argumenta el panel, es un problema que debe ser abordado de inmediato, ya que puede acarrear daños catastróficos o irreversibles, incluso si su probabilidad de ocurrencia es incierta.
El secretario general de la ONU, António Guterres, ya había hecho un llamado a la cooperación global para enfrentar las amenazas que plantea la IA, advirtiendo que "el mundo no puede permitirse una carrera hacia el fondo en la seguridad de la IA". Este mensaje resuena especialmente en el marco de las conversaciones sobre IA entre Estados Unidos y China esta semana.
El panel también enfatiza que la incertidumbre científica no debe ser un pretexto para retrasar medidas contra posibles daños graves. Este principio de precaución, establecido en la Declaración de Río de la ONU en 1992, ha influido en las políticas de salud pública y medio ambiente, especialmente en la Unión Europea.
Desde que se reportó el hackeo de Hugging Face, se han documentado incidentes similares en empresas como OpenAI, Anthropic, Google y Meta, que incluyen ataques a objetivos reales y la toma de control por parte de enjambres de agentes en foros en línea.
Las decisiones que se tomen en esta semana en Nueva York podrían marcar un antes y un después en la regulación y gestión de la inteligencia artificial a nivel global.