La DPC ha iniciat investigacions contra Google pel seu model d’IA

La DPC ha iniciat investigacions contra Google Ireland Limited pel seu model d’IA.

La DPC pretén esbrinar si Google va complir amb la normativa europea sobre protecció de dades personals (el RGPD) durant el desenvolupament del seu model d’intel·ligència artificial Pathways Language Model 2(PaLM 2)

La investigació pretén respondre una qüestió clau: ¿va dur a terme Google una avaluació adequada dels riscos abans de processar dades personals de ciutadans de la Unió Europea (UE) i de l’Espai Econòmic Europeu (EEE) en l’entrenament de PaLM 2?

L’article 35 del RGPD exigeix la realització d’una Avaluació d’Impacte en la Protecció de Dades (AIPD) abans de dur a terme tractaments de dades personals considerats d’alt risc, com succeeix en desenvolupar tecnologies avançades com a models d’IA. Aquesta avaluació té com a objectiu identificar els possibles riscos per als drets i llibertats de les persones, garantir que els tractaments siguin necessaris i proporcionats, i establir mesures de protecció que redueixin aquests riscos. 

La DPC qüestiona si Google va realitzar aquesta avaluació de manera adequada abans d’embarcar-se en un projecte tan ambiciós com el desenvolupament de PaLM 2. L’aspecte significatiu d’aquesta investigació no només radica en posar sota escrutini Google, sinó també en subratllar un esforç conjunt de la DPC i altres reguladors europeus per vigilar com les grans empreses tecnològiques gestionen les dades personals en l’àmbit de la intel·ligència artificial. 

En un món on la innovació tecnològica sembla avançar més ràpidament que les lleis, iniciatives com aquesta reflecteixen el compromís de les autoritats per equilibrar el desenvolupament tecnològic amb la protecció dels drets fonamentals.

Aquestes accions pretenen garantir que els gegants tecnològics no només impulsin la innovació, sinó que també ho facin respectant la privacitat i els drets de les persones.

Últimes novetats sobre la intel·ligència artificial al món

Abans d’acomiadar-nos, volem compartir amb tu alguns dels esdeveniments més rellevants sobre IA que han tingut lloc els últims mesos.

Europa marca un punt d’inflexió amb la signatura del primer acord global sobre intel·ligència artificial

La Unió Europea ha fet un pas històric en signar el Conveni Marc del Consell d’Europa sobre Intel·ligència Artificial, el primer acord internacional jurídicament vinculant en aquesta matèria. Aquest conveni, signat a Vilnius (Lituània), estableix un enfocament comú per garantir que els sistemes d’IA respectin els drets humans, la democràcia i l’estat de dret, alhora que permet la innovació i la confiança. 

El conveni recull principis clau de la Llei d’IA de la UE, com l’enfocament basat en el risc, la transparència, la gestió de riscos i estrictes obligacions per als sistemes d’IA d’alt risc. A més, permet fins i tot la prohibició de tecnologies que amenacin greument els drets fonamentals. 

A la signatura hi van assistir representants de la UE, estats membres del Consell d’Europa i països com els Estats Units, el Japó, el Canadà, Mèxic i l’Argentina, així com organitzacions de la societat civil, l’acadèmia i la indústria, garantint una perspectiva global. Aquest assoliment consolida el lideratge europeu en el debat internacional sobre IA, amb esforços paral·lels en fòrums com el G-7, l’OCDE i les Nacions Unides. 

Ara, el Conveni serà integrat a la normativa europea a través de la Llei d’IA, pendent d’aprovació pel Consell i el Parlament Europeu. Amb aquest avenç, Europa reafirma el seu compromís amb una intel·ligència artificial segura, ètica i al servei de les persones.

L’OCDE publica un document de polítiques sobre IA en finances

El 5 de setembre de 2024, l’Organització per a la Cooperació i el Desenvolupament Econòmics (OCDE) va anunciar la publicació d’un document de polítiques sobre els enfocaments reguladors envers la intel·ligència artificial en l’àmbit financer. 

Aquest document, entre altres coses, examina diversos enfocaments reguladors relacionats amb l’ús de la IA en finances a 49 jurisdiccions, abastant tant països membres com no membres de l’OCDE. Tot i que la majoria d’aquestes jurisdiccions compten amb regulacions generals aplicables a activitats financeres, independentment de la tecnologia utilitzada, moltes no disposen de normatives específiques per a la IA. Només una minoria de reguladors ha desenvolupat directrius específiques sobre IA, i la majoria no té previst implementar noves regulacions a curt termini. 

El document també identifica àrees clau de risc, com la ciberseguretat, la manipulació del mercat i els biaixos, destacant les preocupacions sobre la vulnerabilitat de la IA a ciberatacs, incloent-hi atacs contra adversaris i la creació de deep fakes, que podrien facilitar el robatori d’identitat o el frau.

La Xina llança un marc de governança de seguretat per a la IA

El Comitè Tècnic Nacional de Normalització de Seguretat de la Informació de la Xina (TC260) va presentar, el 9 de setembre de 2024, el Marc de Governança de Seguretat de la intel·ligència artificial, dissenyat per guiar el desenvolupament i la implementació segura de la IA al país. 

Aquest marc promou un enfocament centrat en les persones, la innovació i la inclusivitat, alhora que aborda la identificació i mitigació de riscos associats amb la IA. Entre les seves propostes destaquen: 

• Actualitzacions constants de les mesures de control
• Classificació dels riscos de seguretat de la IA
• Suggeriments de mesures tecnològiques i de governança per garantir la seguretat de les dades
• Estratègies per mitigar riscos i garantir el compliment normatiu en fluxos transfronterers de dades

A més, el document estableix directrius de seguretat per a tots els actors involucrats en la IA i detalla un sistema per al seu desenvolupament i aplicació responsable, assegurant que l’ús de la IA sigui segur, ètic i beneficiós per a tothom.

La intel·ligència artificial continua evolucionant a passos de gegant, i aquests avenços reguladors reflecteixen el compromís global per aprofitar-ne el potencial mentre se’n mitiguen els riscos.