La Unión Europea ha tomado un paso histórico hacia la aprobación de la llamada ‘AI Act’. La nueva ley contempla varios cambios, requerimientos y protecciones respecto al uso de IA por parte de las empresas.
La ley, propuesta desde hace algunos meses, incluye varios apartados para lo que definen como ‘los casos más riesgosos de la IA’. Aunque la ley ciertamente toca a chatbots como ChatGPT, lo cierto es que está mucho más enfocada en la protección de la privacidad de los ciudadanos europeos.
Dentro de los puntos más importantes se encuentran:
- La prohibición del uso de sistemas de identificación biométrica en espacios públicos, así como el uso posterior de este tipo de tecnologías para identificar personas.
- Caracterización biométrica utilizando características sensibles, como género, raza, etnicidad, estado de ciudadanía, religión y orientación política.
- Sistemas de políticas predictivas basados en datos como perfil y antecedentes criminales.
- Reconocimiento emocional en lugares fronterizos, policiales, laborales y educativos.
- Recopilación indiscriminada de videos de seguridad o redes sociales para crear bases de datos de reconocimiento facial.
Estos casos, según la ley, representan riesgos gigantes respecto al bienestar de las personas, su seguridad y también sus derechos fundamentales.
Leyes para la IA de uso general
La nueva regulación europea contempla todos los usos de la IA de uso general, como ChatGPT. Este tipo de IA tendrá que ser registrada en la base de datos de la UE, así como evaluar y mitigar riesgos para los usuarios.
Modelos de lenguaje como GPT van a estar regulados por lineamientos más estrictos respecto a la transparencia con los usuarios. Esto no solamente contempla que empresas como OpenAI expliquen mejor el uso de los datos de los usuarios, sino también que incluyan descargos de responsabilidad para indicar que los contenidos fueron generados por IA.
Figuras como Sam Altman, CEO de OpenAI, han impulsado abiertamente la regulación de sistemas basados en Inteligencia Artificial. Sin embargo, también han indicado que la ley europea tiene el riesgo de desincentivar la innovación basada en IA en Europa.
Con la ley aprobada por el Parlamento, las tres ramas de la Unión Europea van a entrar en un debate abierto para tener, antes de que termine el año, la versión final de la ley que entrará a regir en Europa.