Yuval Noah Harari sobre la peligrosa IA: "Nunca invoques un poder que no puedas controlar"
El historiador argumenta que la IA no es simplemente una herramienta más avanzada que aquellas que ya teníamos a nuestro alcance hasta el momento. Sugiere que quizás deberíamos pensar en la IA no como inteligencia "artificial", sino como "inteligencia alienígena". No cree que el peligro principal sea una IA inherentemente malévola, sino nuestras propias limitaciones como especie
Yuval Noah Harari, el influyente historiador y autor de éxitos como "Sapiens", conocido por sus análisis sobre el pasado y futuro de la humanidad, ha lanzado una contundente advertencia sobre el desarrollo de la Inteligencia Artificial.
En un extracto de su nuevo libro "Nexus", Harari recurre a antiguas fábulas como la de "El Aprendiz de Brujo" para ilustrar su principal temor: estamos invocando fuerzas que podríamos ser incapaces de manejar. Su mensaje es todo un toque de atención: "Nunca invoques un poder que no puedas controlar".
Harari argumenta que la IA no es simplemente una herramienta más avanzada que aquellas que ya teníamos a nuestro alcance hasta el momento. Es, según él, la primera tecnología en la historia capaz de tomar decisiones y crear nuevas ideas por sí misma.
A diferencia de inventos anteriores, donde el control final siempre residía en manos humanas (una bomba nuclear no decide a quién atacar), la IA actúa como un "agente" independiente. Drones autónomos que deciden objetivos, IAs que diseñan estrategias militares o incluso crean IAs más potentes... ese es el cambio radical.
El historiador va un paso más allá y sugiere que quizás deberíamos pensar en la IA no como inteligencia "artificial", sino como "inteligencia alienígena". A medida que evoluciona, se vuelve menos dependiente de nuestros diseños y más ajena a nuestra forma de pensar.
Harari no cree que el peligro principal sea una IA inherentemente malévola, sino nuestras propias limitaciones como especie. Nuestra incapacidad histórica para la cooperación global unificada, la existencia de malos actores y las divisiones geopolíticas hacen que regular eficazmente una tecnología tan poderosa y transfronteriza como la IA sea un desafío monumental. Si unos pocos países fallan en controlarla responsablemente, las consecuencias podrían ser globales.