Florida demanda a OpenAI por el uso de ChatGPT por menores

El fiscal general de Florida, James Uthmeier, ha decidido llevar a OpenAI a los tribunales en un movimiento que podría cambiar el panorama del uso de la inteligencia artificial en el estado. El pasado 28 de septiembre, solicitó a un tribunal estatal una orden judicial temporal contra OpenAI y su CEO, Sam Altman, con el objetivo de frenar el desarrollo de nuevos modelos de IA sin controles externos y restringir el acceso de menores a ChatGPT.

La demanda, presentada ante el Décimo Circuito Judicial en el condado de Highlands, no solo exige cambios en la manera en que OpenAI presenta ChatGPT, sino que también busca establecer normativas más estrictas sobre el manejo de datos de niños. Uthmeier argumenta que el uso de esta tecnología ha demostrado ser “inseguro” y “engañoso”, afectando especialmente a los más jóvenes en Florida.

“Hace cuatro meses, Florida presentó la primera demanda encabezada por un estado contra OpenAI y Sam Altman”, indicó Uthmeier en un video en X. “Dijimos que ChatGPT era inseguro, engañoso y que ya estaba perjudicando a los floridanos, especialmente a nuestros niños”. En este contexto, el fiscal general critica la elección de la empresa de priorizar las ganancias sobre la seguridad pública.

La moción de Uthmeier se apoya en incidentes recientes, incluyendo un acceso no autorizado a un sistema sanitario del Gobierno australiano por parte de un agente de OpenAI, que fue detectado por la empresa meses después. “Hoy pedimos al tribunal una nueva orden judicial temporal. Nada de desarrollar nuevos modelos sin salvaguardas de seguridad independientes”, enfatizó.

Entre las solicitudes específicas, la Fiscalía pide que OpenAI no ofrezca ChatGPT a menores en Florida y que se prohíba la recopilación y procesamiento de datos de niños menores de 13 años sin obtener el consentimiento verificable de los padres. Además, Uthmeier exige que la empresa deje de presentar ChatGPT como un producto seguro o humano, advirtiendo sobre los riesgos y limitaciones del sistema.

La moción también critica las respuestas de ChatGPT que invitan a continuar una conversación, sugiriendo que esto puede llevar a los usuarios a mantener interacciones que deberían finalizar. Uthmeier sostiene que el lenguaje utilizado por el sistema puede engañar a los usuarios, especialmente a los más vulnerables, haciéndolos confiar en que están interactuando con un ser humano.

Esta petición se enmarca en un debate más amplio sobre la regulación de la inteligencia artificial. Recientemente, un panel internacional de científicos respaldado por la ONU advirtió que las salvaguardas actuales no están avanzando al ritmo de las capacidades de estos sistemas, lo que plantea serias dudas sobre la supervisión humana efectiva.

El juez ahora deberá decidir si impone restricciones temporales a OpenAI mientras se resuelve la demanda. Sin embargo, es crucial aclarar que ninguna de las medidas solicitadas estará vigente hasta que se tome una decisión judicial.