El pasado miércoles 13 de marzo, el Parlamento Europeo ratificó la primera ley de inteligencia artificial (IA) en la historia. Desde la propuesta de la Comisión Europea para establecer el primer marco regulador de IA en 2021, la legislación ha avanzado significativamente. En diciembre pasado, se logró un acuerdo político entre el Consejo y el Parlamento Europeo.
El objetivo de esta ley es promover la excelencia y la innovación tecnológica al tiempo que se protegen los derechos humanos. Aunque la Unión Europea reconoce el potencial de la inteligencia artificial para el progreso de las sociedades, insiste en la importancia de regularla para reducir sus efectos negativos.
Se espera que esta propuesta legislativa establezca un modelo a nivel mundial al ser la primera en su tipo. Su objetivo es la vigilancia y prevención de riesgos para la salud, la seguridad y los derechos fundamentales. Para lograrlo, establece criterios específicos para determinar cuándo un programa se considera IA.
La ley clasifica los sistemas de inteligencia artificial en cuatro niveles de riesgo: mínimo, limitado, alto e inadmisible. Los softwares de IA de riesgo mínimo no tendrán responsabilidad legal adicional, mientras que los de riesgo limitado estarán sujetos a obligaciones específicas de transparencia.
Aquellas IA que representen un alto riesgo para la seguridad o los derechos de las personas serán identificadas y reguladas de manera más estricta. Se incluyen sistemas de identificación biométrica, uso policial o de control de fronteras, y herramientas enfocadas en la evaluación educativa, entre otros.
Se incluyen una lista de sistemas de alto riesgo que se pueden usar como referencia para identificarlos, y se incluyen algunos sistemas de identificación biométrica, sistemas de uso policial o de control de fronteras específicos y herramientas enfocadas en la evaluación educativa. Para que el listado cumpla su función también en el futuro, la Comisión se compromete a mantenerlo actualizado.
En última instancia, el documento señala que algunos programas son inaceptables. Se trata de un uso mínimo de la IA que viola derechos fundamentales y es particularmente perjudicial. Los sistemas de puntuación social, la acción predictiva individual de la policía y el reconocimiento de emociones en el lugar de trabajo o en la institución educativa, excepto por razones médicas o de seguridad, se encuentran entre ellos.
La UE tiene como objetivo principal establecer esta regulación para asegurarse de que sea relevante a lo largo del tiempo y pueda adaptarse a las novedades tecnológicas.