Europa pone límites a la IA: empresas enfrentarán nuevas obligaciones y multas millonarias
Entre las nuevas obligaciones se encuentran la prohibición de ciertas prácticas consideradas de alto riesgo, como el uso de inteligencia artificial para engañar o manipular a personas. Con la entrada en vigor de estas medidas, la Oficina de Inteligencia Artificial de la Comisión Europea tendrá nuevas facultades para evaluar y verificar los grandes modelos de IA. Los proveedores estarán obligados a permitir el acceso a sus sistemas para revisiones de cumplimiento
La Unión Europea (UE) comenzó este domingo una nueva etapa en la regulación de la Inteligencia Artificial (IA) con la entrada en vigor de nuevas disposiciones de su histórica Ley de IA, conocida como «AI Act», uno de los marcos regulatorios más estrictos del mundo en esta materia.
La legislación, aprobada hace dos años, busca establecer límites al desarrollo y aplicación de sistemas de inteligencia artificial, con especial atención a los riesgos relacionados con la manipulación, la privacidad y la seguridad de los ciudadanos.
Entre las nuevas obligaciones se encuentran la prohibición de ciertas prácticas consideradas de alto riesgo, como el uso de inteligencia artificial para engañar o manipular a personas, así como la explotación de vulnerabilidades relacionadas con la edad, discapacidad u otras condiciones particulares.
La normativa también establece controles más estrictos sobre el uso de datos biométricos y tecnologías de reconocimiento facial, además de exigir a las compañías desarrollar mecanismos para evaluar y reducir los riesgos asociados a sus modelos.
Otro de los puntos destacados es la regulación de los llamados deepfakes, contenidos generados o modificados con IA que pueden parecer reales y provocar confusión. Estos deberán contar con etiquetas, avisos o identificadores que permitan a los usuarios reconocer que fueron creados artificialmente.
Los modelos que ya están disponibles en el mercado tendrán un período de adaptación hasta el próximo 2 de diciembre para ajustarse a los nuevos requisitos.
Con la entrada en vigor de estas medidas, la Oficina de Inteligencia Artificial de la Comisión Europea tendrá nuevas facultades para evaluar y verificar los grandes modelos de IA.
Los proveedores estarán obligados a permitir el acceso a sus sistemas para revisiones de cumplimiento, incluso antes de la comercialización de algunos modelos. Los reguladores nacionales serán responsables de supervisar sistemas de menor escala.
Las autoridades europeas podrán realizar investigaciones, inspecciones y exigir cambios a las empresas cuando detecten incumplimientos. Además, Bruselas tendrá capacidad para limitar el despliegue de determinados modelos considerados problemáticos.
La UE estableció un régimen de sanciones que contempla multas de hasta el 7 % de la facturación anual mundial de una compañía o 35 millones de euros, aplicándose la cifra más alta, para las infracciones más graves.
Otros incumplimientos podrán recibir sanciones de hasta el 3 % de los ingresos globales anuales o 15 millones de euros.
Las empresas también podrán ser penalizadas si interfieren con las investigaciones de los organismos reguladores.
La regulación seguirá ampliándose
El marco europeo continuará endureciéndose en los próximos años. A partir de diciembre quedarán prohibidos formalmente los sistemas de IA capaces de generar imágenes de personas desnudas sin consentimiento.
Además, las normas para sistemas considerados de alto riesgo, utilizados en áreas como salud, transporte o seguridad, comenzarán a aplicarse progresivamente entre 2027 y 2028.
Con estas medidas, la Unión Europea busca posicionarse como referente mundial en la regulación de la inteligencia artificial, equilibrando la innovación tecnológica con la protección de los derechos de los ciudadanos.