Desafíos IA: éticos y legales

La Inteligencia Artificial (IA), como suele decirse, ha llegado para quedarse y sus desafíos, éticos y legales son cada vez más evidentes.

Tal y como ha sucedido con cada nuevo avance tecnológico, hay que estudiar la IA y analizar los desafíos que tiene por delante esta nueva tecnología; sobre todo con respecto a cuestiones éticas y legales.

A continuación, presentamos un listado, generado con la ayuda de la Inteligencia Artificial, detallando sus principales desafíos éticos y legales:

Desafíos (éticos) IA:

La perspectiva ética de la IA es uno de los aspectos que más inquietud e incertidumbre provoca. 

La ética digital es el conglomerado de principios y normas normales que gobiernan el comportamiento ético (las acciones que llevamos a cabo) en el entorno digital.

La ética digital persigue proteger valores como:

• Dignidad, 
• Libertad, 
• Democracia, 
• Igualdad, 
• Autonomía del individuo y 
• Justicia frente al gobierno de un razonamiento mecánico

La Comisión Europea trabaja en la definición de una Inteligencia Artificial confiable, y establece que, para ello, ha de cumplir con siete requisitos clave: 

• Acción y supervisión humanas, 
• Solidez técnica y seguridad, 
• Gestión de la privacidad y los datos, 
• Transparencia, 
• Diversidad, no discriminación y equidad, 
• Bienestar social y ambiental y 
• Rendición de cuentas

Estos requisitos deben ser evaluados a lo largo de todo el ciclo de vida de un sistema de IA de forma continua. 

La supervisión humana no sólo debe limitarse a la legitimidad ética de los tratamientos, sino que también se debe estar alerta ante los posibles efectos inesperados. 

Asimismo, también se debe atender al posible impacto colateral de dichos tratamientos en un entorno social.

• Sesgos y equidad:

Los sistemas de Inteligencia Artificial pueden perpetuar y amplificar sesgos existentes en los datos de entrenamiento; lo que lleva a decisiones discriminatorias. 

• Transparencia y explicabilidad:

Muchos algoritmos de IA, especialmente los modelos de aprendizaje profundo, son cajas negras, lo que dificulta comprender cómo toman decisiones y genera desconfianza. 

• Impacto en el empleo:

La automatización impulsada por la IA podría llevar a la pérdida de empleos y a la necesidad de reconversión laboral. 

• Manipulación del comportamiento:

La Inteligencia Artificial puede ser utilizada para manipular el comportamiento humano; por eso, su uso genera preocupaciones sobre la autonomía y la libertad individual. 

• Responsabilidad y rendición de cuentas:

Determinar quién es responsable cuando una IA comete un error o causa daño es un desafío ético y legal complejo. 

Desafíos (legales) IA:

A nivel legal, la Inteligencia Artificial cuenta con el reciente Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) nº 300/2008, (UE) nº 167/2013, (UE) nº 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial).

• Regulación de la IA:

Además del Reglamento de Inteligencia Artificial, es necesario articular una regulación clara y uniforme para abordar la implementación responsable de la IA. 

Además, a nivel empresarial, las Compañías deben contar con una Política de uso de la IA; como ya explicamos en un post anterior.

• Derechos de los ciudadanos:

Es necesario establecer marcos legales que protejan los derechos de los ciudadanos frente a posibles abusos de la IA; como pueden ser: la vigilancia masiva o la discriminación algorítmica. 

• Propiedad intelectual:

La Inteligencia Artificial puede generar obras protegidas por derechos de autor, pero la titularidad de estos derechos aún no está clara; especialmente cuando la IA es la creadora. 

• Responsabilidad civil:

La legislación actual no está preparada para abordar la responsabilidad en casos de daños causados por sistemas de IA autónomos. 

• Protección de Datos:

Por último, es necesario destacar que la IA requiere grandes cantidades de datos para funcionar y, por lo tanto, esto plantea desafíos tanto legales como éticos sobre la privacidad y el uso de información personal.

La protección de las personas físicas en relación con el tratamiento de datos personales es un derecho fundamental, recogido en el artículo 8.1 de la Carta de los Derechos Fundamentales de la Unión Europea y el artículo 16.1, del Tratado de Funcionamiento de la Unión Europea 

El derecho fundamental a la protección de datos está desarrollado en el Reglamento 619/2016 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y en la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales (LOPDGDD).

Los sistemas de Inteligencia Artificial que traten datos personales deben diseñarse y operarse de manera que cumplan con los preceptos estipulados en toda la normativa relativa a la Protección de Datos apuntada anteriormente. 

Asimismo, las organizaciones deben ser transparentes sobre cómo recopilan, utilizan y protegen los datos de los usuarios. 

Tal y como dice la Agencia Española de Protección de Datos (AEPD) en su Informe Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial. Una introducción, publicado en febrero de 2020: “El cumplimiento de lo establecido en el RGPD exige cierto nivel de madurez a las soluciones IA que permita determinar de forma objetiva la adecuación de los tratamientos y la existencia de avales y medidas para gestionar sus riesgos”. 

“Para estos riesgos, la tecnología en general, y en particular las tecnologías de IA, puede tener un efecto multiplicador de las carencias éticas que ya están presentes en la sociedad o aquellas que se arrastran desde el pasado y que están registradas en datos históricos. La aplicación del RGPD y de las garantías que incorpora permite minimizar dichos riesgos”.

La inteligencia artificial debe usarse con inteligencia humana; es decir, se deben establecer marcos legales que protejan los derechos de los ciudadanos frente a posibles negligencias y abusos de la IA y, desde el inicio de su utilización (y durante todo el proceso), se deben fijar principios éticos claros y mecanismos de supervisión para garantizar que ésta se utilice de manera responsable.

Autora: Sandra Santiago, Abogada.

Si necesitas más información, ¡contacta con nosotros!:

Denominación social:

LEGAL IT GLOBAL 2017, SLP

Finalidad:
Prestar el servicio.

Envío del Boletín informativo.

Legitimización:
Cumplimiento de la prestación del servicio.

Consentimiento.

Destinatarios: Tus datos no serán compartidos con ningún tercero, salvo a aquellos proveedores de servicios con los que disponemos de un contrato de servicios vigente.

Consulta la Política de Protección de datos completa a aquí.