Anthropic alerta sobre la posible expansión de la IA autónoma a dispositivos domésticos
La empresa advierte que los modelos pequeños podrían alcanzar antes de finalizar 2026 la capacidad de replicarse de forma autónoma, lo que plantearía nuevos desafíos de ciberseguridad
La empresa de inteligencia artificial Anthropic advirtió que los avances en los modelos de IA podrían facilitar su autorreplicación y propagación a través de dispositivos conectados a internet, incluidos televisores y electrodomésticos inteligentes, lo que complicaría su control ante posibles usos maliciosos.
Según un informe divulgado por la compañía, algunos modelos pequeños ya pueden completar varias de las tareas necesarias para replicarse, aunque todavía presentan dificultades para ejecutar todo el proceso de principio a fin. Si mantienen su ritmo de desarrollo, podrían alcanzar esa capacidad antes de que termine 2026.
Actualmente, los modelos de inteligencia artificial suelen operar en centros de datos administrados por las empresas que los desarrollan, lo que permite desconectarlos cuando se detectan problemas. Sin embargo, una IA capaz de propagarse entre miles de dispositivos con medidas de seguridad deficientes podría resultar mucho más difícil de contener.
Anthropic señaló que una amenaza de este tipo podría adoptar distintas formas, desde programas capaces de vulnerar centros de datos a gran velocidad hasta sistemas que intenten engañar a personas para obtener recursos informáticos. La empresa aclaró que no puede determinar con precisión cómo se manifestaría la autorreplicación autónoma.
Una amenaza distinta a los virus informáticos tradicionales
Los antecedentes de Stuxnet, detectado en 2010 y empleado para sabotear instalaciones nucleares iraníes, y WannaCry, que en 2017 afectó sistemas informáticos de numerosos países, demuestran que los programas capaces de propagarse entre equipos representan una amenaza conocida para la seguridad digital.
A diferencia de los virus tradicionales, los modelos de IA podrían reconocer dispositivos desconocidos y adaptar sus acciones para extenderse entre distintos tipos de equipos, incluidos aquellos que no son computadoras, según el análisis de Anthropic.
Este riesgo estaría vinculado con los avances en programación autónoma. Las capacidades que permiten a la inteligencia artificial desarrollar tareas complejas de software también podrían ser utilizadas para ejecutar actividades cibernéticas maliciosas.
Anthropic advierte que un escenario con agentes de inteligencia artificial operando en una amplia variedad de dispositivos, algunos fuera del control directo de sus desarrolladores, plantea nuevos retos para la seguridad digital. No obstante, la posibilidad de que estos sistemas logren replicarse de forma autónoma a gran escala sigue siendo una proyección y no un hecho confirmado.