Sistemas de informacion/Ley sobre Inteligencia Artificial

¿Qué es la Inteligencia Artificial?

Concepto

Se le denomina Inteligencia Artificial (IA) a la capacidad de un dispositivo para realizar tareas generalmente llevadas a cabo por la inteligencia humana. Es un concepto que hace referencia a la habilidad de las máquinas para emular el pensamiento de los humanos y su toma de decisiones. La IA es una de las ramas de las ciencias de la computación encargada de estudiar y trabajar los modelos con la capacidad de llevar a cabo actividades normalmente realizadas o asociadas a los seres humanos. Esto se lleva a cabo en base a dos características fundamentales: la conducta y el razonamiento.

Dos tipos de enfoques

Existen a día de hoy dos escuelas que estudian y enfocan de manera distinta el estudio y desarrollo de la IA:

La IA simbólico-deductiva (también denominada IA covencional): esta se basa en el análisis estadístico y formal de los comportamientos humanos, frente a diferentes problemas o casos. Su finalidad es imitar este comportamiento.
La IA simbólico-inductiva (también denominada IA computacional): esta escuela se centra en desarrollar nuevas habilidades y mecánicas del pensamiento humano. Para ello utiliza el aprendizaje continuo dado gracias a la interacción con el ser humano.

Independientemente de la escuela de la que hablemos, la IA se basa en ambos casos en un análisis e interpretación de cantidades enormes de datos. Hoy en día la IA se ha convertido en algo fundamental que nos ayuda en el día a día.

Primera ley de Inteligencia Artificial en la UE

Aún no existe ninguna normativa vigente en la Unión Europea que regule la IA, pero sí existe una propuesta que está previsto que entre en vigor próximamente.

Esta propuesta fue llevada a cabo por el Parlamento Europeo y el consejo, el 21 de abril de 2021.

A través de esta ley se establecen normas armonizadas en materia de Inteligencia Artificial.

Propuesta

La Inteligencia Artificial es capaz de facilitar y ayudar en la consecución de objetivos desde un punto de vista social y medioambiental (dentro de la economía europea en este caso) en sectores de alto impacto; como pueden ser la salud o el medio ambiente. Sin embargo, la IA, aparte de ser capaz de ser de gran ayuda, trae consigo nuevos riesgos y problemas a los que es necesario dar solución. Se considera que estas consecuencias afectan a la sociedad en su conjunto.

Es por esto que, teniendo en cuenta el entorno cambiante y la velocidad de cambio que tiene hoy en día la tecnología, la UE está enfocada en garantizar el correcto aprovechamiento de estas nuevas tecnologías. De esta manera, se quiere conseguir que la IA se desarrolle y funcione en concordancia con los valores, derechos y principios de la UE.

Motivos

Los motivos de la creación de esta ley recaen en la necesidad de adopción de medidas en materia legislativa para garantizar el correcto funcionamiento del mercado interior de los sistemas de IA y poder abordar sus riesgos. Además, garantiza la protección de los principios éticos, como solicitó expresamente el Parlamento Europeo.

Objetivos

Esta propuesta de la Ley de Inteligencia Artificial en la Unión Europea, tiene unos objetivos para eliminar posibles riesgos de los sistemas de Inteligencia Artificial (IA).

Fomentar el desarrollo y uso de una IA segura, legal y fiable. Para esto se han elaborado unas normas para hacerles frente a posibles riesgos que surjan de estos sistemas.
Garantizar la seguridad de las herramientas o sistemas basados en inteligencia artificial introducidos y usados en el mercado de la UE.
Promover el desarrollo de un mercado único para el uso seguro de la IA y evitar la fragmentación del mercado.
Que los sistemas respeten los derechos fundamentales y la legislación vigente en materia de derechos fundamentales y valores de la Unión, en el mercado.
Garantizar la seguridad jurídica para facilitar la inversión y la innovación en IA.
La mejora de la gobernanza y el cumplimiento de la legislación existente aplicable a los derechos fundamentales y los requisitos de seguridad para los sistemas de IA.

A quién se aplica

Las normas de la ley de esta propuesta, se van a aplicar a los Estados miembros de manera igualitaria, para que en la futura IA haya unas normas armonizadas relativas a su introducción, para que en la futura IA haya unas normas armonizadas relativas a su introducción en el mercado, la puesta en servicio y el uso de estos sistemas en Europa.

El marco jurídico, se va a aplicar a los agentes públicos y privados de tanto el interior como el exterior de la UE, en la medida de la introducción de los sistemas IA en el mercado y su uso.

Esto podría afectar a los proveedores con intención de introducir servicios de AI en la UE y a todas las empresas con efecto en la UE.

Por otro lado, también les afectará a los usuarios de sistemas de AI que se encuentren en la UE de elevado riesgo, pero no es aplicable sobre los usos privados que no sean profesionales.

Contenido de la ley

Ámbito de aplicación

1. El reglamento es aplicable a:

Todos los proveedores que introduzcan en el mercado o pongan en servicio sistemas de IA en la UE, con independencia de si dichos proveedores están establecidos en ella o en un tercer país
Los usuarios de sistemas de IA que se encuentren en la UE
Los proveedores y usuarios de sistemas de la IA que se encuentren en un tercer país, cuando la información de salida generada por el sistema se utilice en la UE

2. Además, es aplicable a los sistemas de la IA de alto riesgo que sean componentes de seguridad de productos o sistemas, o que sean en si mismos productos o sistemas, comprometidos en el ámbito de aplicación de los actos que figuran a continuación. (a estos solo se les aplicara el articulo 84 del presente reglamento).

Reglamento (CE) nº300/2008: Sobre las normas comunes para la seguridad de aviación.
Reglamento (UE) nº167/2013: Relativo a la homologación de los vehículos agrícolas o forestales y la vigilancia de mercado de dichos vehículos.
Reglamento (UE) nº168/2013: Relativo a la homologación de los vehículos de dos o tres ruedas y la vigilancia de mercado de dichos vehículos.
Directiva (UE) 2014/90: Sobre equipos marinos.
Directiva (UE) 2016/797: Sobre la interoperabilidad del sistema ferroviario dentro de la UE.
Reglamento (UE) 2018/858: Sobre la homologación y la vigilancia del mercado de los vehículos de motor y sus remolques y de los sistemas, los componentes y las unidades técnicas independientes destinados a dichos vehículos.
Reglamento (UE) 2018/1139: Sobre normas comunes en el ámbito de la aviación civil y por el que se crea una Agencia de la UE para la Seguridad Aérea.
Reglamento (UE) 2019/2144: Relativo a los requisitos de homologación de tipo de los vehículos de motor y de sus remolques, asi como de los sistemas competentes y unidades técnicas independientes destinados a esos vehículos, en lo que respecta a su seguridad general y a la protección de los ocupantes de los vehículos y de los usuarios vulnerables de la vía publica.

3. No se aplicara a las autoridades publicas de terceros países, ni a las organizaciones internacionales que entren dentro del ámbito de aplicación de este Reglamento conforme al apartado 1 cuando dichas autoridades u organizaciones utilicen sistemas de IA en el marco de acuerdos internacionales con fines de aplicación de la ley y cooperación judicial con la UE o con varios Estados miembros.
4. No afectará a la aplicación de las disposiciones relativas a la responsabilidad de los prestadores de servicios intermediarios que figuran en el capitulo II, sección IV, de la directiva 2000/31/CE del Parlamento Europeo y del Consejo 60 (que deben sustituirse por las disposiciones correspondientes de la Ley de Servicios Digitales)

Prohibiciones

1. Estarán prohibidas las siguientes prácticas de inteligencia artificial:

La introducción en el mercado, la puesta en servicio o la utilización de un sistema de IA que:

Provoque o sea probable que provoque perjuicios físicos o psicológicos
Aproveche vulnerabilidades de un grupo especifico de personas y altere su comportamiento pudiendo provocar perjuicios físicos o psicológicos.
Por parte de las autoridades públicas con el fin de evaluar o clasificar la fiabilidad de personas físicas de forma que la clasificación social resultante provoque un trato perjudicial o desfavorable hacia determinadas personas físicas o colectivos enteros en:
- Contextos sociales que no guarden relación con los contextos donde se generaron o recabaron los datos originalmente.
- Un trato perjudicial o desfavorable hacia determinadas personas injustificado o desproporcionado con respecto a su comportamiento social o su gravedad.
El uso de sistemas de identificación biométrica remota (en tiempo real) en espacios de acceso público con fines de aplicación de la ley salvo que sea de uso estrictamente necesario para alcanzar los siguientes objetivos:
- La búsqueda selectiva de posibles víctimas concretas de un delito
- La prevención de una amenaza específica, para la vida o la seguridad física de las personas físicas.
- La detección, la localización, la identificación o el enjuiciamiento de la persona que ha cometido o se sospecha, de los delitos mencionados en el artículo 2, apartado 2, de la Decisión Marco 2002/584/JAI del Consejo 62, para el que la normativa en vigor en el Estado miembro implicado imponga una pena o una medida de seguridad privativas de libertad.

2. El uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso publico con fines de aplicación de la ley para conseguir cualquiera de los objetivos mencionados en el apartado 1, letra d), tendrá en cuenta los siguientes aspectos:

La naturaleza de la situación que de lugar al posible uso y en particular la gravedad, probabilidad y magnitud del perjuicio que se produciría de no utilizarse el sistema.
Las consecuencias que utilizar el sistema tendría para los derechos y las libertades de las personas implicadas, y en particular la gravedad, probabilidad y magnitud de dichas consecuencias.

Además, se cumplirán salvaguardias y condiciones necesarias y proporcionadas en relación con el uso, en particular en lo que respecta a las limitaciones temporales, geográficas y personales.

3. Con respecto al apartado 1, letra d), y el apartado 2, para cualquier uso concreto de un sistema de identificación biométrica remota «en tiempo real» en un espacio de acceso público, se necesitará autorización previa por parte de una autoridad judicial o autoridad administrativa independiente del Estado miembro donde vaya a utilizarse dicho sistema. Aun así, en una situación de urgencia, si esta justificada debidamente, se podrá empezar a utilizar y pedir autorización mas tarde.

La autoridad judicial o administrativa competente únicamente concederá la autorización cuando este convencida, atendiendo a las pruebas objetivas o a los indicios claros que se le presenten, de que el uso del sistema de identificación biométrica remota «en tiempo real» es necesario y proporcionado para alcanzar algunos de los objetivos arriba citados.

4. Los Estados miembros podrán decidir contemplar la posibilidad de autorizar, ya sea total o parcialmente, el uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de aplicación de la ley dentro de los limites y en las condiciones que se indican en el apartado 1, letra d), y los apartados 2 y 3.

En este caso tendrán que introducir en sus derechos internos las normas detalladas sobre las autorizaciones referidas en el apartado 3, así como la supervisión de estas.

Obligaciones

Obligaciones de transparencia para determinados sistemas (Título IV)
A los sistemas que:

Interactúen con seres humanos
Se utilicen para detectar emociones o determinar la asociación a categorías (sociales) concretas a partir de los datos biométricos, o
Generen o manipulen contenido (ultrafalsificaciones)

Obligaciones para:

1. Proveedores de sistemas de IA de alto riesgo, desarrolladas en los artículos 16 a 23 de la ley.

2. Fabricantes de productos, desarrolladas en el art. 24 de la ley.

3. Representantes autorizados, desarrolladas en el art.25 de la ley.

4. Importadores, desarrolladas en el art. 26 de la ley.

5. Distribuidores, desarrolladas en el art. 27 de la ley.

6. Para distribuidores, importadores, usuarios o terceros cuando se den las circunstancias previstas en el art. 28 de la ley.

7. Usuarios de sistemas de IA de alto riesgo, desarrolladas en el art. 29 de la ley.

Beneficios de la ley

Sociales: Mejor asistencia sanitaria, transporte mas seguro y limpio y mejores servicios públicos.
Económicos: Servicios más baratos para los gobiernos, por ejemplo, en el transporte, energía y gestión de residuos.
Competitivos: Proporcionar a la industria europea una ventaja competitiva en la escena mundial y economías de escala que los Estados miembros individuales no podrían llegar por si solos.
Innovadores: Productos y servicios innovadores para las empresas, por ejemplo, en los ámbitos de la energía y la seguridad, mayor productividad y unos procesos de fabricación mas eficientes.