La UE aboga por vetar todas las deepfakes sexuales de IA

Los Veintisiete acuerdan en la negociación de la Ley de Inteligencia Artificial reforzar la prohibición de tecnologías que generen imágenes o voces de personas con fines sexuales no consentidos, incluidos los deepfakes sexuales, y avalan retrasar la aplicación de las restricciones a los sistemas de “alto riesgo”, con calendario escalonado: diciembre de 2027 para sistemas autónomos y agosto de 2028 para los integrados.

El mandato del Consejo europeo respalda en términos generales la revisión propuesta por la Comisión Europea en el marco del Ómnibus digital, pero introduce enmiendas clave: mantener el registro obligatorio de sistemas de “alto riesgo”, aplicar el criterio de “estricta necesidad” para datos sensibles y posponer los entornos de prueba regulatorios hasta diciembre de 2027. También aclara competencias de la Oficina de IA y establece excepciones para autoridades nacionales en fronteras, instituciones financieras, fuerzas de seguridad y justicia.

La revisión busca equilibrar seguridad y flexibilidad: los sistemas de IA de “alto riesgo” y generativa deberán ser transparentes, advertir al usuario de contenido generado y prevenir usos ilegales. Además, se relajan los requisitos de documentación técnica para pymes, con un ahorro estimado de 225 millones de euros al año, y se centraliza la supervisión de modelos de “propósito general” para reducir la fragmentación normativa, favoreciendo un marco más claro y coherente para empresas y autoridades.

Entre los sistemas de “alto riesgo” se incluyen la identificación biométrica y la categorización de personas físicas para contratación o concesión de créditos, así como sistemas para gestionar infraestructuras críticas, asistencia legal y procedimientos de migración y asilo. La revisión también pretende reforzar la coherencia normativa entre la Ley de IA y otras legislaciones de armonización sectorial, facilitando la orientación de la Comisión a los operadores económicos para cumplir los requisitos sin generar cargas innecesarias.

Según la presidenta del Consejo, Marilena Raouna, la propuesta aportará “mayor seguridad jurídica, proporcionalidad y aplicación armonizada” en todos los Estados miembro, mientras continúan las negociaciones entre el Consejo y la Eurocámara previstas para abril. Además, se espera que la reforma permita un despliegue más seguro de la IA en Europa, fomentando la innovación responsable, la protección de derechos y la confianza de ciudadanos y empresas en estas tecnologías.