El Ley de IA de la UE está previsto que introduzca importantes sanciones a partir de febrero de 2025, algunos incluso más grandes que los contemplados en el RGPD. Aprobado en agosto de 2024, la Ley clasifica los sistemas de IA por nivel de riesgo: prohibido, de alto riesgo, de riesgo limitado y de riesgo mínimo. Se prohibirán los sistemas que aprovechen las vulnerabilidades o realicen una vigilancia biométrica no autorizada, mientras que los sistemas de alto riesgo, como los que se utilizan en el empleo o en la calificación crediticia, estarán sujetos a una supervisión estricta.
Para obtener más información sobre las sanciones para los sistemas prohibidos, consulte Artículo 99, comprueba aquí.
Analicemos algunos escenarios que destacan las posibles consecuencias del incumplimiento.
El traspié de la IA de ShopSmart
Imagina Compra de forma inteligente, un minorista ficticio en Francia, que utiliza la inteligencia artificial para analizar las expresiones faciales de los clientes con el fin de segmentarlos emocionalmente. Lanzaron esta tecnología en 2024 con el objetivo de impulsar las ventas con recomendaciones muy específicas. Algunos clientes acogieron con satisfacción la experiencia personalizada, considerándola una innovación de vanguardia.
Pero por 2 de agosto de 2025, cuando entre en vigor la Ley de IA de la UE, el sistema de ShopSmart se clasifica como prohibido por aprovechar las vulnerabilidades y realizar una vigilancia biométrica no autorizada. De repente, se enfrentan a sanciones de hasta 35 millones de euros o 7% de la facturación mundial. Para una empresa que genera mil millones de euros en ingresos, esto podría significar un Multa de 70 millones de euros—sin mencionar el daño a su reputación y la pérdida de la confianza de los consumidores. Si bien es posible que algunos hayan apreciado las recomendaciones personalizadas, otros sentirán que su privacidad se ha visto comprometida. Esto pone de relieve el delicado equilibrio entre la innovación y la protección de los derechos individuales.
La arriesgada implementación de IA de una empresa de servicios públicos
Ahora considera Cuadrícula verde, una startup energética alemana. En un intento por optimizar la distribución de energía, introdujeron un sistema de inteligencia artificial que toma decisiones en tiempo real basándose en datos ambientales y de consumo. Sin embargo, su sistema entra en la categoría de alto riesgo por motivos de transparencia y parcialidad.
Por agosto de 2025, GreenGrid se enfrenta a sanciones de hasta 15 millones de euros o 3% de la facturación mundial si no cumplen con los estrictos requisitos de cumplimiento para los sistemas de alto riesgo. Esto incluye garantizar la transparencia, realizar evaluaciones de conformidad y someterse a auditorías. Para GreenGrid, es un acto de equilibrio entre la innovación en eficiencia energética y la defensa de la privacidad y los estándares éticos.
¿Cuál es el papel de los profesionales de la privacidad a medida que entran en vigor las sanciones?
A medida que se promulgue la Ley de IA de la UE (que comenzará en febrero de 2025 y entrará en vigor en agosto de 2026), los profesionales de la privacidad desempeñarán un papel clave a la hora de navegar por el complejo mundo de la gobernanza de la IA. Si bien la privacidad es una parte fundamental de esta gobernanza, la IA requiere conocimientos adicionales. Los desafíos éticos, las complejidades técnicas y los procesos de toma de decisiones requerirán la participación de desarrolladores de IA, científicos de datos, expertos legales y líderes empresariales.
Los profesionales de la privacidad aportan valiosas habilidades en materia de cumplimiento, protección de datos y gestión de riesgos. Sin embargo, la gobernanza de la IA también tendrá que abordar desafíos como el sesgo algorítmico, la explicabilidad y el impacto ético más amplio de las decisiones relacionadas con la IA. Ahora es el momento de que los profesionales de la privacidad se eduquen y aboguen por una Oficina de gobernanza de la IA o centro de excelencia, y garantizar que la privacidad siga siendo un componente clave de un enfoque interfuncional de la gobernanza de la IA.
¿Podemos aprender de la implementación del GDPR?
La Ley de IA de la UE comparte algunas similitudes con GDPR. Cuando se introdujo el GDPR en mayo de 2018, a muchos les preocupaba su falta de claridad, su aplicación incoherente y la subestimación de sus necesidades de recursos. ¿Te suena familiar? La Ley de Inteligencia Artificial de la UE también está siendo objeto de críticas por su alcance y aplicación. Sin embargo, los profesionales de la privacidad que superaron los desafíos de los primeros días del GDPR están bien posicionados para ayudar a guiar a los equipos de gobierno de la IA. Al aplicar su experiencia en el RGPD, los profesionales de la privacidad pueden ayudar a garantizar la implementación exitosa de la Ley de Inteligencia Artificial de la UE y aprovechar esta oportunidad para ampliar sus habilidades y, al mismo tiempo, seguir aportando información valiosa en este cambiante panorama regulatorio.
En busca de un Gobernanza de la IA solución? Reserva una demostración y vea el módulo TrustWorks AI Governance en acción.
Roberta Kowalishin
