Desafiaments ètics i legals de la Intel·ligència Artificial

La Intel·ligència Artificial (IA), com se sol dir, ha arribat per quedar-se i els seus desafiaments, ètics i legals cada vegada són més evidents.

Tal com ha passat amb cada nou avenç tecnològic, cal estudiar la IA i analitzar els desafiaments que té al davant aquesta nova tecnologia; sobretot pel que fa a qüestions ètiques i legals.

A continuació, presentem una llista, generada amb l’ajuda de la Intel·ligència Artificial, detallant els seus principals desafiaments ètics i legals:

Desafiaments (ètics) IA:

La perspectiva ètica de la IA és un dels aspectes que provoca més inquietud i incertesa.

L’ètica digital és el conglomerat de principis i normes normals que governen el comportament ètic (les accions que duem a terme) a l’entorn digital.

L’ètica digital persegueix protegir valors com:

• Dignitat,
• Llibertat,
• Democràcia,
• Igualtat,
• Autonomia de l’individu i
• Justícia davant del govern d’un raonament mecànic

La Comissió Europea treballa en la definició d’una Intel·ligència Artificial fiable, i estableix que, per fer-ho, ha de complir set requisits clau:

• Acció i supervisió humanes,
• Solidesa tècnica i seguretat,
• Gestió de la privadesa i les dades,
• Transparència,
• Diversitat, no discriminació i equitat,
• Benestar social i ambiental i
• Rendició de comptes

Aquests requisits han de ser avaluats al llarg de tot el cicle de vida d’un sistema de IA de forma contínua.

La supervisió humana no només s’ha de limitar a la legitimitat ètica dels tractaments, sinó que també cal estar alerta davant dels possibles efectes inesperats.

Així mateix, també cal atendre el possible impacte col·lateral d’aquests tractaments en un entorn social.

• Biaixos i equitat:

Els sistemes d’intel·ligència artificial poden perpetuar i amplificar biaixos existents a les dades d’entrenament; cosa que porta a decisions discriminatòries.

• Transparència i explicabilitat:

Molts algorismes d’IA, especialment els models d’aprenentatge profund, són caixes negres, cosa que dificulta comprendre com prenen decisions i genera desconfiança.

• Impacte a la feina:

L’automatització impulsada per la IA podria portar a la pèrdua de llocs de treball ia la necessitat de reconversió laboral.

• Manipulació del comportament:

La Intel·ligència Artificial pot ser utilitzada per manipular el comportament humà; per això, l’ús genera preocupacions sobre l’autonomia i la llibertat individual.

• Responsabilitat i rendició de comptes:

Determinar qui és responsable quan una IA comet un error o causa mal és un desafiament ètic i legal complex.

Desafiaments (legals) IA:

A nivell legal, la Intel·ligència Artificial compta amb el recent Reglament (UE) 2024/1689 del Parlament Europeu i del Consell, de 13 de juny de 2024, pel qual s’estableixen normes harmonitzades en matèria d’intel·ligència artificial i pel qual es modifiquen els Reglaments (CE) núm. 300/2008, (UE 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 i les Directives 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (Reglament de

• Regulació de la IA:

A més del Reglament d’Intel·ligència Artificial, cal articular una regulació clara i uniforme per abordar la implementació responsable de la IA.

A més, a nivell empresarial, les companyies han de comptar amb una política d’ús de la IA; com ja expliquem en un post anterior.

• Drets dels ciutadans:

Cal establir marcs legals que protegeixin els drets dels ciutadans davant de possibles abusos de la IA; com poden ser: la vigilància massiva o la discriminació algorísmica.

• Propietat intel·lectual:

La Intel·ligència Artificial pot generar obres protegides per drets d’autor, però la titularitat d’aquests drets encara no és clara; especialment quan la IA és la creadora.

• Responsabilitat civil:

La legislació actual no està preparada per abordar la responsabilitat en casos de danys causats per sistemes de IA autònoms.

• Protecció de Dades:

Per acabar, cal destacar que la IA requereix grans quantitats de dades per funcionar i, per tant, això planteja desafiaments tant legals com ètics sobre la privadesa i l’ús d’informació personal.

La protecció de les persones físiques en relació amb el tractament de dades personals és un dret fonamental, recollit a l’article 8.1 de la Carta dels Drets Fonamentals de la Unió Europea i l’article 16.1, del Tractat de Funcionament de la Unió Europea

El dret fonamental a la protecció de dades està desenvolupat al Reglament 619/2016 del Parlament Europeu i del Consell, de 27 d’abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d’aquestes dades i a la Llei orgànica 3/2018, de 5 de desembre, de protecció de dades.

Els sistemes d’intel·ligència artificial que tractin dades personals s’han de dissenyar i operar de manera que compleixin els preceptes estipulats en tota la normativa relativa a la protecció de dades apuntada anteriorment.

Així mateix, les organitzacions han de ser transparents sobre com recopilen, utilitzen i protegeixen les dades dels usuaris.

Tal com diu l’Agència Espanyola de Protecció de Dades (AEPD) al vostre Informe Adequació al RGPD de tractaments que incorporen Intel·ligència Artificial. Una introducció, publicat el febrer de 2020: «El compliment del que estableix l’RGPD exigeix ​​un cert nivell de maduresa a les solucions IA que permeti determinar de manera objectiva l’adequació dels tractaments i l’existència d’avals i mesures per gestionar els seus riscos».

«Per a aquests riscos, la tecnologia en general, i en particular les tecnologies d’IA, pot tenir un efecte multiplicador de les mancances ètiques que ja són presents a la societat o aquelles que s’arrosseguen des del passat i que estan registrades en dades històriques. L’aplicació del RGPD i de les garanties que incorpora permet minimitzar aquests riscos».

La intel·ligència artificial s’ha d’usar amb intel·ligència humana; és a dir, cal establir marcs legals que protegeixin els drets dels ciutadans davant de possibles negligències i abusos de la IA i, des de l’inici de la seva utilització (i durant tot el procés), s’han de fixar principis ètics clars i mecanismes de supervisió per garantir que aquesta s’utilitzi de manera responsable.

Autora: Sandra Santiago, Advocada.

Si necessites ajuda o consulta, contacta’ns!

Informació sobre protecció de dades

Denominació social
LEGAL IT GLOBAL 2017, SLP
Finalitat
Prestar el servei.
Enviament del Butlletí informatiu.
Legitimització
Compliment de la prestació de servei.
Consentiment.
Destinataris
Les teves dades no seran compartides amb cap tercer, excepte aquells proveïdors de serveis amb els que disposem d’un contracte de serveis vigent.
Drets
Pots accedir, rectificar o suprimir les dades, així com exercir els drets que s’esmenten en la nostra Política de Privacitat.
Més informació
Consulta la Política de Privacitat.