09 Dic Inteligencia artificial y privacidad serán compatibles en el Reglamento que está elaborando la UE

Sin lugar a duda, la Inteligencia Artificial (IA) va a ser estos próximos años un elemento clave en la evolución digital, tecnológica y económica.

La Unión Europea está apostando por una Europa más digital y confiable. Ya lo hizo en 2018 con la plena obligatoriedad del Reglamento Europeo de Protección de Datos, un hito en la defensa de la privacidad de los ciudadanos europeos.

Ahora, ha decidido dar un nuevo paso al frente y abordar la primera regulación sistemática a nivel comunitario sobre la IA. Se quiere que Inteligencia Artificial y privacidad puedan ser compatibles.

Para los que no son especialistas en el tema, antes explicaremos brevemente qué es la Inteligencia Artificial.

¿Qué es exactamente la Inteligencia Artificial?

Según la Comisión Europea, podemos definir la IA como un software que, mediante una serie de técnicas especiales, es capaz de generar, en relación con un conjunto de objetivos definidos por seres humanos, contenidos, predicciones, recomendaciones, decisiones u otras informaciones de salida que influyan en los entornos con los que interactúa, ya sea en una dimensión física o digital.

La Comisión Europea presentó el pasado 21 de abril de 2021 una propuesta de Reglamento al Consejo y al Parlamento Europeo que pretende establecer el marco jurídico aplicable a los sistemas de Inteligencia Artificial (IA).

Este futuro Reglamento tiene como objetivo promover el uso y desarrollo de los sistemas regidos por IA, garantizando su seguridad y la ética en su desarrollo y funcionamiento. Entre otras cosas, va a regular los sistemas de IA de alto riesgo, determinar los tipos de sistemas prohibidos, establecer una serie de obligaciones y un régimen de sanciones.

Ámbito de aplicación

El Reglamento que está elaborando la UE, dentro del ámbito de aplicación subjetivo, comprenderá a la totalidad de actores que forman parte de todo el desarrollo de la IA. Nos referimos a: proveedores, todos los particulares o empresas que participen en su fabricación, importadores y hasta distribuidores.

En cuanto a la territorialidad, las disposiciones del Reglamento afectarían tanto a los actores ubicados en la Unión Europea como a los que se encuentren en otros países, si participan en un sistema de IA que pueda tener repercusiones para personas físicas de la Unión Europea.

Inteligencia Artificial y privacidad

La propuesta de Reglamento agrupa los sistemas de IA en diferentes niveles de diferente riesgo, en lo que a privacidad se refiere.

A mayor nivel de riesgo, mayores son las obligaciones que afectan al sistema. La clasificación, basada en la relación Inteligencia Artificial y privacidad, es la siguiente:

Sistemas de IA prohibidos:

Se encuentran regulados en el artículo 5 del Reglamento y, entre otros, estarán prohibidos:

• Los sistemas que se sirvan de técnicas subliminales que afecten a la consciencia de una persona para alterar de manera sustancial su comportamiento, pudiendo provocarle daños físicos o psicológicos a dicha persona o a otras.
• Los sistemas que alteren de forma sustancial el comportamiento, aprovechándose de las vulnerabilidades de ciertos grupos (edad mental, discapacidad…), de modo que les pueda provocar daños a ellos o a terceros.
• También se prohíben los sistemas que puedan usar las autoridades públicas para controlar los comportamientos de las personas para clasificarlas socialmente, para proporcionarles un trato desfavorable de forma injustificada.

Es decir, de ninguna manera podrán utilizarse en la Unión Europea ni sobre ciudadanos de la UE sistemas de IA con este funcionamiento.

Sistemas de IA de alto riesgo:

Son aquellos sistemas de IA que pueden permitirse siempre que, debido a que pueden poner en peligro a las personas, se sometan a una evaluación de la conformidad realizada por un organismo independiente para su introducción en el mercado o puesta en servicio.

Todos los operadores dentro de la cadena de valor del sistema de IA estarían sometidos a un conjunto de obligaciones específicas, entre ellas, la implantación de sistemas adecuados de evaluación de riesgos, registros de actividad, supervisión y medidas de revisión humanas, inscripción en base de datos a nivel europeo y gobernanza de datos.

Algunos ejemplos de este tipo de sistemas de IA serían aquéllos que se empleen: en cirugía asistida por robots, en la Administración de Justicia, en medios de transporte y, en general, en todas aquellas actividades que puedan poner en riesgo la seguridad y la salud de las personas.

El resto de sistemas de IA:

Los sistemas de IA de riesgo limitado como, por ejemplo, los robots conversacionales. Estos sistemas solo se someterían a normas de transparencia que garanticen que los usuarios conozcan su funcionamiento y características.

Por último, tendríamos los sistemas de IA de riesgo mínimo o nulo, que son la gran mayoría. En este caso, se permite su uso libre.

Simplemente, están sujetos a sistemas voluntarios de autorregulación. Es decir, pueden, de forma voluntaria, cumplir los requisitos que son obligatorios para los sistemas de alto riesgo.

También se prevé la posibilidad de que los proveedores de estos sistemas de IA puedan crear y aplicar sus propios códigos de conducta.

Como vemos, Inteligencia Artificial y privacidad pueden ser compatibles si se hacen las cosas bien.

Sanciones

En la propuesta de reglamento se prevé un régimen de sanciones que se aplicarán en caso de no cumplir con las obligaciones fijadas para cada tipo de sistema. Dichas sanciones se establecen en el artículo 71 de la propuesta. Entre estas sanciones, destacan las siguientes:

Las infracciones relativas a prácticas de IA prohibidas y el incumplimiento de obligaciones de gobernanza de datos en los sistemas de IA de alto riesgo serán sancionadas con multas administrativas de hasta 30.000.000 de euros o, si el infractor es una empresa, el 6% de su volumen de negocio anual total del ejercicio financiero anterior, si fuera superior.

Los incumplimientos de cualquier obligación o requisito, diferente de los anteriores, se sancionarán con multa administrativa de 20.000.000 euros o, si el infractor es una empresa, el 4% del volumen de negocio anual total del ejercicio financiero anterior, si fuera superior.

Suministrar información incompleta o engañosa a los organismos y autoridades nacionales se sancionará con multa de hasta 10.000.000 de euros o, si el infractor es una empresa, el 2% del volumen de negocio anual total del ejercicio financiero anterior, si fuera superior.

Conclusión

La Inteligencia Artificial es, sin duda, un elemento muy positivo tanto para las personas como para las empresas, pero se debe utilizar y desarrollar de forma ética, respetando las leyes.

Como hemos visto, todo apunta a que la tendencia de la legislación sobre la IA afectará a todos los involucrados en la cadena de valor de estos sistemas. Por tanto, todas las empresas (no sólo a fabricantes, sino también distribuidores, importadores, representantes…) que participen en sistemas con IA, deben estar al día sobre la normativa que les afecta y cumplirla de forma íntegra. De lo contrario, como hemos expuesto, las sanciones ante incumplimientos serán muy elevadas.

¿Quieres estar informado de todos los cambios y novedades en esta materia y en otras que puedan afectar a tu negocio? Te invitamos a suscribirte a nuestra newsletter aquí.