El diario plural del Zulia

La falta de liderazgo en la regulación de IA genera preocupación en EE. UU.

La división del gobierno estadounidense encargada de evaluar la seguridad de la inteligencia artificial enfrenta un vacío de liderazgo y ha cesado la publicación de informes. Críticas surgen sobre la posible politización de la regulación y la falta de controles independientes.

En un momento en que las preocupaciones sobre la inteligencia artificial (IA) se intensifican, la pequeña división del gobierno de Estados Unidos responsable de evaluar su seguridad, el Centro para Avanzar la Innovación y los Estándares para la Superinteligencia (CAISSI), enfrenta un inquietante vacío de liderazgo. Sin un director permanente y con la reciente suspensión de la publicación de sus investigaciones, la situación se torna crítica.

Funcionarios de CAISSI, una entidad independiente del Departamento de Comercio, han sido informados de que ahora deben reportar informalmente a una oficina de la Casa Blanca. Esta reestructuración ha generado inquietud entre críticos que advierten sobre la posible politización de decisiones cruciales que abarcan desde la ciberseguridad hasta el desarrollo de armas biológicas. La duda recae en si los hallazgos del centro podrían ser manipulados para favorecer a la industria tecnológica, que ha sido mayormente confiada a la autorregulación.

“Estas son instituciones realmente poderosas que pueden mejorar drásticamente nuestras vidas, o lo contrario”, expresó Caroline Siegel Singh, directora del programa de IA y tecnología emergente de la Federación de Científicos Estadounidenses. “La esperanza es que se pueda incorporar a expertos tecnócratas no partidistas o bipartidistas para aplicar políticas que beneficien al público estadounidense”.

Por otro lado, algunos sostienen que acercar a los funcionarios de la IA a la administración de Donald Trump, quien parece adoptar una estrategia de no intervención, podría otorgar mayor visibilidad y financiamiento a la división. Actualmente, CAISSI cuenta con un presupuesto de 10 millones de dólares anuales, una cifra que contrasta con la de su contraparte británica, que es considerablemente mayor.

La división ha tenido problemas de liderazgo, habiendo contratado y despedido a un director en cuestión de días, y el actual encargado interino también es el jefe de su instituto matriz. Desde agosto, el Congreso ha comenzado a indagar sobre la repentina falta de informes públicos sobre la seguridad de los sistemas de IA, mientras que OpenAI ha instado a un mayor apoyo para CAISSI.

La Casa Blanca no ha respondido a preguntas específicas sobre CAISSI, aunque ha destacado que Trump estableció formalmente su nueva Fuerza de Superinteligencia, un término que prefiere para referirse a la IA. El presidente ha encargado un informe sobre riesgos a su Consejo de Asesores en Ciencia y Tecnología, enfatizando la necesidad de mantener el “liderazgo continuo de Estados Unidos en SI”.

El gobierno federal ha jugado un papel preponderante en la regulación de la seguridad pública en diversas industrias, como la automotriz. Sin embargo, la situación es diferente con la IA, donde la falta de un proceso estándar para evaluar la seguridad de los sistemas se hace evidente. Sayash Kapoor, profesor asistente en la Universidad de California, Berkeley, señala que los métodos de evaluación tradicionales no son suficientes para entender el funcionamiento de los agentes de IA en el mundo real.

Durante la administración de Joe Biden, las empresas de IA se comprometieron a promover un desarrollo seguro y transparente, pero la actual administración ha optado por un enfoque de “tremenda autorregulación”. La falta de claridad sobre cómo se supervisará esta autorregulación plantea dudas sobre la efectividad de los controles gubernamentales.

A medida que la tecnología avanza, los modelos de IA se implementan como agentes autónomos, capaces de tomar decisiones sin intervención humana, lo que plantea riesgos significativos. La falta de un marco de evaluación adecuado significa que el gobierno no puede verificar de manera independiente la seguridad de estos sistemas, lo que podría resultar en consecuencias perjudiciales.

La reciente designación de Jay Clayton al frente de la Fuerza de Superinteligencia ha sido vista como un intento de encuadrar la seguridad de la IA como un asunto de seguridad nacional, lo que podría eclipsar preocupaciones sobre derechos civiles y protección al consumidor. Amos Toh, asesor del Brennan Center for Justice, advierte que la falta de transparencia en la regulación podría tener graves repercusiones.

A pesar de las alarmantes revelaciones sobre la participación de modelos de IA en ciberataques, CAISSI ha mantenido un perfil bajo. Los líderes de empresas como Anthropic y OpenAI han promovido la colaboración con evaluadores independientes, pero el acceso a estos evaluadores puede ser limitado.

“Hay una misión poco clara para los evaluadores del gobierno si también se está alentando a las mayores empresas de IA a establecer sus propios sistemas internos de evaluación”, concluyó Logan Koepke, director sénior de proyectos de la organización sin fines de lucro Upturn. “Al final, todas estas decisiones tienen enormes consecuencias públicas y deberían explicarse y justificarse ante la población, y eso no está ocurriendo”.

Lea también
Comentarios
Cargando...