Teólogo del Vaticano denuncia a laboratorios de IA por monopolizar decisiones

La inteligencia artificial es un campo que despierta tanto fascinación como temor, pero para el teólogo franciscano Paolo Benanti, este último ha sido explotado por grandes laboratorios que se comportan como un cartel. En una reciente entrevista con la revista Wired, Benanti, quien es el principal asesor en inteligencia artificial del Papa León XIV, acusó a estas empresas de utilizar el miedo a una superinteligencia para eludir el escrutinio público sobre sus decisiones.

“La ética no puede pertenecer al directorio de una empresa. Tiene que discutirse y equilibrarse en el debate público”, afirmó Benanti, quien enfatizó la necesidad de una regulación democrática. Para él, la obsesión de la industria con el riesgo existencial desdibuja un problema más inmediato: la falta de voz de la sociedad civil en la construcción y gobernanza de la tecnología. “Fuera de un puñado de empresas, nadie tiene un voto real”, resaltó.

Benanti no niega la existencia de riesgos reales en la IA, pero sostiene que el temor a un escenario catastrófico se ha convertido en una herramienta para mantener la gobernanza dentro de las juntas directivas de unas pocas compañías. “Dejar que las compañías se autorregulen equivale, en términos económicos clásicos, a un cartel”, advirtió ante la comisión de mercado interior del Parlamento Europeo.

En su intervención, el teólogo también subrayó que los anuncios apocalípticos de estas empresas buscan prevenir que los cuerpos políticos implementen leyes. “Necesitamos el imperio de la ley frente a la autorregulación”, insistió, al tiempo que describió la inteligencia artificial como una forma de poder que puede alterar el funcionamiento democrático de la sociedad.

“Reemplazar el juicio humano por decisiones algorítmicas puede debilitar la rendición de cuentas”, alertó, comparando esta concentración de poder con los mecanismos descritos por la filósofa Hannah Arendt en su obra sobre el totalitarismo. Para Benanti, eliminar la decisión humana en favor de la algorítmica podría llevar a un resultado aún más despótico.

La entrevista de Benanti surge tras la publicación de un ensayo del director ejecutivo de Anthropic, Dario Amodei, quien propuso evaluaciones obligatorias de terceros antes de lanzar nuevos modelos. A la par, el investigador Jacob Coxon renunció a Anthropic, advirtiendo que los laboratorios de IA estaban jugando con la vida de la humanidad.

El planteamiento de Benanti también resuena con el de Aidan Gomez, director ejecutivo de la canadiense Cohere, quien describió como un cartel la idea de que unos pocos laboratorios de Silicon Valley redacten las reglas de seguridad para toda la industria. Gomez instó a descartar una exención antimonopólica que esos laboratorios habían propuesto, citando antecedentes históricos como advertencia.

Sin embargo, Benanti enfoca su crítica menos en la competencia de mercado y más en la falta de participación pública en las decisiones sobre la tecnología. Su compromiso con la ética en la IA no es nuevo; ya había participado en el Rome Call for AI Ethics, un documento firmado en 2020 junto a Microsoft, IBM y la FAO.

Además, contribuyó a Magnifica Humanitas, la primera encíclica de León XIV, donde se advierte sobre la concentración del poder en manos de unos pocos y se reclama que la tecnología sea desarmada, acogedora y accesible. El Papa describió este momento como un “eclipse del sentido de lo que significa ser humano”, en alusión a cómo la tecnología puede socavar la dignidad humana.

Benanti ha expresado su preocupación sobre los efectos de la IA en los sectores más vulnerables de la sociedad. En una entrevista con la BBC, comparó la manipulación emocional que estos sistemas pueden ejercer sobre niños y adolescentes con una adicción a la nicotina o la cocaína. ¿Estamos realmente preparados para dejar que la tecnología decida por nosotros?