Luz Neira Parra | Democracia e inteligencia artificial: ¿quién controla a quién?
En estos días en que celebramos el Día Internacional de la Democracia, resulta inevitable mirar hacia uno de los grandes desafíos que enfrenta hoy la sociedad: la inteligencia artificial.
No solamente por su extraordinaria capacidad para transformar nuestras vidas, sino por el poder que puede adquirir sobre la información, la opinión pública y, en consecuencia, sobre las propias democracias.
El debate ha dejado de ser exclusivamente tecnológico. Dario Amodei, director ejecutivo de Anthropic, una de las grandes empresas del sector, ha advertido sobre los riesgos de desarrollar sistemas cada vez más poderosos sin contar previamente con mecanismos adecuados de seguridad y control. Otros investigadores y antiguos empleados de empresas de inteligencia artificial han expresado preocupaciones similares.
En el ámbito político también existen posiciones diferentes. Donald Trump como siempre ha restado importancia a algunas de las advertencias sobre los peligros de la inteligencia artificial y defiende que Estados Unidos mantenga su liderazgo tecnológico. Barack Obama, en cambio, ha llamado la atención sobre sus riesgos y sobre la necesidad de establecer mecanismos de gobernanza y directamente habló de la necesidad de regular la IA.
China agrega otra dimensión a esta competencia. Beijing considera la inteligencia artificial un asunto estratégico y busca acelerar su desarrollo para competir con Estados Unidos, pero lo hace bajo un modelo de mayor control estatal sobre la tecnología y la información. El mundo enfrenta así una carrera tecnológica que no puede separarse de la discusión y el debate sobre poder, libertad y democracia en las sociedades occidentales. De igual forma en los países con más índice de desarrollo como en los de menos.
El debate es legítimo. Y surge una pregunta que no deberíamos evadir: ¿por qué la inteligencia artificial tendría que quedar al margen de la regulación?
Regulamos los medicamentos porque pueden curar, pero también causar daños. Regulamos los aviones porque necesitamos garantizar la seguridad de quienes viajan. Regulamos los bancos, la televisión, el cine, la publicidad y numerosos sectores porque entendemos que determinadas actividades tienen consecuencias sobre el conjunto de la sociedad.
Regular no significa prohibir. Significa establecer límites y responsabilidades.
Y en el caso de la inteligencia artificial, la discusión adquiere una dimensión especialmente delicada cuando hablamos de democracia.
Una democracia necesita ciudadanos libres, educados, informados y capaces de distinguir entre hechos y opiniones. Pero la inteligencia artificial puede producir en segundos fotografías inexistentes, voces falsas, videos de personas diciendo cosas que nunca dijeron y enormes cantidades de contenidos diseñados para engañar o manipular.
El problema no es solamente que alguien pueda mentir. El verdadero peligro aparece cuando la mentira puede producirse industrialmente, multiplicarse millones de veces y dirigirse de manera personalizada hacia quienes van a tomar decisiones electorales.
Una elección podría ser manipulada no solamente mediante el fraude tradicional, sino mediante una avalancha de desinformación capaz de sembrar dudas, destruir reputaciones o fabricar acontecimientos inexistentes.
Y aparece una paradoja inquietante: la inteligencia artificial puede ayudarnos a combatir la desinformación, pero también puede producirla a una velocidad muy superior a nuestra capacidad para desmontarla.
Por eso no basta con preguntarnos si la inteligencia artificial es buena o mala. No lo es. Es una herramienta extraordinariamente poderosa. La verdadera pregunta es quién la controla, bajo qué reglas y con qué responsabilidades.
Las democracias deben encontrar un equilibrio. No pueden frenar la innovación ni permitir que los gobiernos tengan un poder ilimitado sobre la información. Pero tampoco deberían entregar a unas pocas empresas privadas la responsabilidad de establecer, por sí mismas, los límites de una tecnología que puede afectar de tantas maneras distintas a los ciudadanos, a los derechos, a los mercados, las elecciones y libertades.
Necesitamos una regulación democrática, transparente y proporcional. Y necesitamos ciudadanos educados para verificar, cuestionar y pensar críticamente antes de creer o compartir aquello que reciben.
La democracia ha sobrevivido a grandes transformaciones tecnológicas: la prensa, la radio, la televisión y las redes sociales. Cada una trajo riesgos, pero también nuevas posibilidades de información y participación.
En estos días dedicados a celebrar la democracia, conviene recordar que defenderla también significa proteger las condiciones que permiten a los ciudadanos saber dónde termina la verdad y dónde comienza la manipulación.
No se trata de detener el futuro. Se trata de impedir que el futuro termine controlándonos a nosotros.