He tenido la oportunidad de leer el primer borrador de la AI Act. Javier del Pino, director del programa A vivir, en el que soy colaborador, me invitó a glosar la nueva legislación, que no será aplicada hasta finales de 2023.

Europa tiene ya un borrador de la primera Ley sobre Inteligencia Artificial que se elabora en el mundo. He podido analizar su contenido junto a dos expertas: Gemma Galdón, especialista en auditoría de algoritmos con base en Nueva York, e Isabelle Hupont, investigadora en la Centro Común de Investigación de la Comisión Europea y experta en reconocimiento facial.

Mis conclusiones sobre la AI Act son las siguientes:

1. La regulación de la UE pone el foco en usos de la IA que ya se aplican en China, como el reconocimiento facial indiscriminado y el uso de los actos en público (y en redes sociales) como registros aplicables a una Calificación Social (Social Scoring). Esos usos por parte de individuos u organizaciones quedan prohibidos en el ámbito europeo. Y los Estados se reservan el derecho a usar el reconocimiento facial sólo cuando exista una orden judicial.
2. Otro principio que guía la regulación es que las empresas e instituciones no podrán usar el reconocimiento facial ni los registros biométricos para analizar el comportamiento de las personas ni en entrevistas de trabajo ni en su día a día. Esto también afectará a las instituciones educativas.
3. La UE quiere obligar a los propietarios de los Modelos de Lenguaje (como ChatGPT) a hacer transparentes las fuentes de las que cada modelo ha aprendido. Exigirán, por tanto, la trazabilidad de las fuentes la protección de los derechos de autor.

Pienso que estos tres principios son correctos. Y creo que la UE acierta al plantear una regulación fundamentada en los usos de la IA, en el para qué de la utilización de estas tecnologías. Se acierta en mi opinión en no establecer una regulación basada en permisos legales previos ni en un registro público de los modelos.

Asimismo, coincido con otros analistas en que si de algo puede pecar esta regulación es de la dificultad que se encontrarán los gobiernos en hacer efectivos estos principios. En la aplicación de la AI Act. En la medida, como señalo en el coloquio en la Cadena SER, en la que crear estos modelos es más barato cada día, y unos cuantos ya son públicos y están disponibles en Open Source, todo lo referido a la protección de los derechos de autor va a ser misión imposible para el regulador.

Dejo aquí el audio de mi conversación con Gemma y con Isabelle

Gustavo Entrala diseña proyectos de futuro para marcas e instituciones. Es especialista en ideación de productos, estrategias de marca y cultura de innovación. Asesora a CEOs y consejos de administración en su estrategia y hace workshops sobre tendencias e innovación in-company. Puede ser un Speaker en tu próximo evento. Está en Twitter, en LinkedIn y, tiene un canal en Youtube sobre el impacto de la Tecnología en el futuro de las empresas.