La identificación biométrica solo podrá realizarse en excepciones y con autorización judicial. La medida se desprende del Reglamento sobre la Inteligencia Artificial de la Unión Europea, pionero marco jurídico en el mundo respecto a la inteligencia artificial de la historia, y que se encuentra en manos de la comisión.
Hemos reseñado en Parada Visual de un tiempo a la fecha, la evolución de la discusión en la Unión Europea acerca del desarrollo y el uso de la inteligencia artificial desde el punto de vista ético.
La Comisión ha presentado una propuesta de Reglamento que recoge las que serán las normas y medidas destinadas a regular este tipo de sistemas y aplicaciones con el objetivo de “convertir a Europa en el centro mundial de una inteligencia artificial digna de confianza”.
En palabras de la vicepresidenta ejecutiva responsable de la cartera de una Europa Adaptada a la Era Digital, Margrethe Vestager: “al establecer las normas, podremos facilitar el advenimiento de una tecnología ética en todo el mundo y velar por que la UE siga siendo competitiva”.
El nuevo Reglamento incorpora normas que abordarán los riesgos específicos que plantean los sistemas de Inteligencia Artificial. Las nuevas normas, que se aplicarán directamente de la misma manera en todos los Estados miembros, siguen, por tanto, un planteamiento basado en el riesgo: inadmisible, alto, limitado, mínimo o nulo.
Se prohibirán los sistemas cuyo riesgo sea inadmisible y que se consideren una clara amenaza para la seguridad, los medios de subsistencia y los derechos de las personas. Por ejemplo, los sistemas o aplicaciones de IA que manipulan el comportamiento humano para eludir la voluntad de los usuarios y sistemas que permitan la puntuación social por parte de los Gobiernos.
En lo que respecta a los sistemas de Inteligencia Artificial considerados de alto riesgo, estos estarán sujetos a obligaciones estrictas antes de que puedan comercializarse. Se trata por ejemplo de tecnologías de IA empleadas en infraestructuras críticas; formación educativa o profesional; componentes de seguridad de los productos; empleo, gestión de trabajadores y acceso al trabajo por cuenta propia; servicios públicos y privados esenciales; aplicación de las leyes, que pueden interferir con los derechos fundamentales de las personas; gestión de la migración, el asilo y el control de las fronteras; administración de justicia y procesos democráticos.
Se consideran de alto riesgo y estarán sujetos a requisitos estrictos todos los sistemas de identificación biométrica remota. Su uso en directo, según reza la propuesta de reglamento, en espacios de acceso público con fines policiales está “prohibido en principio”. Obviamente, hay excepciones: por ejemplo, cuando sea estrictamente necesario para la búsqueda de un menor desaparecido, para prevenir una amenaza terrorista concreta e inminente, o para detectar, localizar, identificar o enjuiciar a un autor o sospechoso de un delito grave.
Así las cosas, su uso estará sujeto a la autorización de un órgano judicial u otro organismo independiente y a los límites adecuados desde el punto de vista de la duración, el alcance geográfico y las bases de datos exploradas.
En aquellos sistemas de IA cuyo riesgo sea limitado, se establecen obligaciones específicas de transparencia (por ejemplo, al utilizar robots conversacionales, los usuarios deberán ser conscientes de que están interactuando con una máquina para poder tomar una decisión informada de continuar o no).
En el caso de sistemas o aplicaciones con riesgo mínimo o nulo, la propuesta de reglamento permite el uso gratuito de soluciones como videojuegos basados en la IA o filtros de correo basura. En realidad, reconocen desde la Comisión, “la inmensa mayoría de los sistemas de IA entra en esta categoría”. Dado que estos sistemas de IA solo representan un riesgo mínimo o nulo para los derechos o la seguridad de los ciudadanos, el proyecto de Reglamento no interviene en este terreno.
La UE también trabaja en la creación de un Comité Europeo de Inteligencia Artificial que facilitará la aplicación de estas normas e impulsará otras nuevas.
-
-
-
-
