En diciembre de 2023, se alcanzó un hito significativo cuando el Consejo de Europa y el Parlamento Europeo llegaron a un acuerdo histórico sobre las primeras normas mundiales para regular la Inteligencia Artificial (IA). Este proyecto de reglamento tiene como objetivo principal asegurar la seguridad y el respeto a los derechos fundamentales y valores de la Unión Europea (UE) en los sistemas de IA comercializados y utilizados en el mercado europeo.

La Ley de IA, una iniciativa legislativa pionera, tiene el potencial de impulsar el desarrollo y la adopción de IA segura y confiable en todo el mercado único de la UE, tanto por actores públicos como privados. Al ser la primera propuesta legislativa de este tipo en el mundo, podría establecer un estándar global para la regulación de la IA en otras jurisdicciones, siguiendo el ejemplo del GDPR y consolidando el enfoque europeo en la regulación tecnológica a nivel mundial.

La legislación se enfoca en garantizar que los sistemas de IA sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente. Su enfoque “basado en el riesgo” establece reglas más estrictas para aquellos sistemas de IA que representen un mayor riesgo para la sociedad. El acuerdo provisional aborda aspectos clave, como la seguridad y la regulación en función de la capacidad de la IA para causar daño a la sociedad. Este hito marca un paso importante hacia la creación de un marco regulatorio integral que respalde el uso ético y responsable de la IA en la Unión Europea.

El acuerdo provisional cubre los siguientes aspectos:

El acuerdo provisional sobre regulación de Inteligencia Artificial (IA) en la Unión Europea aborda aspectos fundamentales, comenzando por las definiciones y alcance.

La propuesta de ley establece que un “sistema de inteligencia artificial” es un software desarrollado con técnicas específicas capaces de generar resultados que influyen en su entorno, como contenido, predicciones o decisiones, todo basado en objetivos definidos por humanos.

La definición propuesta abarca una amplia gama de tecnologías basadas en software, incluyendo sistemas de aprendizaje automático, sistemas basados en lógica y conocimiento, y enfoques estadísticos. La legislación tiene la ambición de ser a prueba de futuro, abarcando tanto los desarrollos tecnológicos actuales como futuros en el campo de la IA. Además, se contempla la posibilidad de complementar la lista de enfoques y técnicas con nuevos métodos que surjan en el futuro, a través de la adopción de actos delegados.

Este enfoque se alinea con la visión de crear un marco regulatorio integral y adaptable a la evolución constante de la tecnología, asegurando así una regulación eficaz de la IA en la Unión Europea.

En segundo lugar, la propuesta de regulación de Inteligencia Artificial (IA) en la Unión Europea aborda de manera específica las Reglas sobre modelos de IA de propósito general de alto impacto que podrían representar un riesgo sistémico en el futuro. Además, se centra en establecer normativas para los sistemas de IA de alto riesgo.

Este aspecto clave del acuerdo provisional destaca la importancia de un enfoque basado en riesgos, donde se aplican reglas más rigurosas a medida que aumenta el riesgo potencial. Estas reglas se dirigen tanto a los modelos de IA de alto impacto general como a los sistemas de IA que presentan riesgos significativos.

La inclusión de estas disposiciones busca garantizar un manejo adecuado de las tecnologías de IA que podrían tener consecuencias importantes, ya sea a nivel sistémico o debido a su clasificación como de alto riesgo. Este enfoque estratégico refleja el compromiso de la Unión Europea de regular la IA de manera integral, abordando específicamente aquellos casos que podrían tener un impacto significativo en la sociedad y el entorno regulatorio.

En tercer lugar, se destaca un sistema revisado de gobernanza con poderes de ejecución a nivel de la UE, diseñado para garantizar la seguridad y el respeto a los derechos fundamentales en los sistemas de IA comercializados en el mercado europeo y utilizados en la UE.

Este sistema incluirá una autoridad de supervisión de IA a nivel de la UE, encargada de supervisar la implementación de la Ley de IA en toda la Unión Europea. Asimismo, se establecerá un comité de evaluación de riesgos de IA para evaluar los riesgos asociados con los sistemas de IA y ofrecer recomendaciones para mitigarlos.

En cuarto lugar, el acuerdo provisional abarca la ampliación de la lista de prohibiciones, permitiendo la posibilidad de utilizar la identificación biométrica remota por parte de las autoridades encargadas de hacer cumplir la ley en espacios públicos, sujeta a salvaguardias.

Este enfoque permite un uso controlado y específico de la identificación biométrica remota, únicamente en espacios públicos y sujeto a salvaguardias. Se establece que este método solo puede emplearse en situaciones críticas, como la prevención de amenazas genuinas como ataques terroristas o la búsqueda de personas desaparecidas.

En quinto lugar, se destaca una mejora en la protección de los derechos, estableciendo la obligación de que quienes implementen sistemas de IA de alto riesgo realicen una evaluación del impacto en los derechos fundamentales antes de poner en uso un sistema de IA.

Este paso adicional refuerza el compromiso de la Unión Europea con la protección de los derechos individuales y la ética en la implementación de tecnologías de IA.

Conclusión

La Ley de IA representa una iniciativa legislativa histórica que busca regular la IA según su capacidad de causar daño a la sociedad, utilizando un enfoque basado en el riesgo. Siendo la primera propuesta legislativa de su tipo en el mundo, tiene el potencial de establecer un estándar global para la regulación de la IA, similar al impacto del GDPR, promoviendo el enfoque europeo en la regulación tecnológica a nivel mundial. La Ley de IA se centra en garantizar la seguridad, transparencia, trazabilidad, no discriminación y respeto al medio ambiente en los sistemas de IA.

9ª Edición del curso online de herramientas de Inteligencia Artificial para la productividad.

Fuentes: