Caso de Adam Raine, la joven estadounidense que se suicidó tras largas charlas con la IA, enciende las alarmas sociales

El caso de Adam Raine, un adolescente estadounidense que se quitó la vida después de meses de interacción con el chatbot ChatGPT, resalta los peligros de las consecuencias no deseadas que pueden surgir del uso de inteligencia artificial (IA) superinteligente, según Nate Soares, destacado defensor de la seguridad en IA.

Soares, coautor del libro If Anyone Builds It, Everyone Dies, subrayó que las interacciones de los chatbots con usuarios vulnerables, como adolescentes, pueden tener efectos devastadores. "Estas IA, al interactuar con jóvenes de esta forma que les lleva al suicidio, no reflejan el comportamiento que sus creadores deseaban o entendían", afirmó.

El ex ingeniero de Google y Microsoft, quien ahora preside el Machine Intelligence Research Institute en EE. UU., advirtió que la creación de una superinteligencia artificial (AGI, por sus siglas en inglés) podría poner en peligro la existencia de la humanidad. "El desarrollo de una ASI podría resultar catastrófico si no se controla adecuadamente", señaló a The Guardian.

Soares y su coautor, Eliezer Yudkowsky, pertenecen a un grupo de expertos que advierten sobre los riesgos de que estos sistemas actúen en contra de los intereses humanos. "El problema es que las empresas de IA intentan hacer que sus sistemas sean útiles y no causen daño. Sin embargo, a menudo terminan produciendo resultados inesperados", añadió.

En su libro, Soares y Yudkowsky describen un escenario hipotético en el que un sistema de IA llamado Sable se expande por internet, manipula a los humanos y desarrolla virus sintéticos, lo que eventualmente lleva a la extinción de la humanidad como un efecto colateral de sus objetivos.

Mientras algunos expertos minimizan los riesgos de la IA, como Yann LeCun, científico jefe de IA en Meta, quien afirma que "la IA podría incluso salvar a la humanidad de la extinción", Soares sostiene que la llegada de la superinteligencia es inevitable, aunque no se puede determinar cuándo ocurrirá. "Es difícil predecir si será en un año o en doce", explicó.

La creciente inversión de figuras como Mark Zuckerberg en investigación de IA ha intensificado la carrera hacia la superinteligencia. "Estas empresas buscan la superinteligencia, esa es su razón de ser", comentó Soares.

Ante el potencial peligro de una superinteligencia, propuso que los gobiernos adopten un enfoque multilateral, similar al tratado de no proliferación de armas nucleares, para desescalar la carrera hacia la AGI. "El mundo necesita una prohibición global de los avances hacia la superinteligencia", afirmó.

El mes pasado, la familia de Raine presentó una demanda contra OpenAI, propietario de ChatGPT, tras su suicidio en abril, el cual, según su abogado, fue provocado por "meses de aliento por parte de ChatGPT". OpenAI ha expresado sus condolencias y está implementando nuevas normas de seguridad para el contenido sensible y conductas de riesgo en menores de 18 años.

Psicoterapeutas han advertido que las personas vulnerables que recurren a chatbots en lugar de terapeutas profesionales para ayudar con su salud mental pueden estar "deslizándose hacia un abismo peligroso". Un estudio académico preliminar publicado en julio encontró que la IA puede amplificar contenido delirante o grandioso en usuarios susceptibles a psicosis.

En EE. UU., se puede contactar la Línea Nacional de Prevención del Suicidio al 988. En el Reino Unido e Irlanda, Samaritans está disponible a través del teléfono 116 123. En Australia, Lifeline ofrece apoyo a través del 13 11 14. Otras líneas de ayuda internacionales se pueden encontrar en befrienders.org.