Connecteu-vos amb nosaltres

EU

#ArtificialIntelligence: la legislació de la UE hauria d’establir límits segurs per a les aplicacions d’alt risc, diu #EESC

COMPARTIR:

publicat

on

Utilitzem el vostre registre per proporcionar contingut de la manera que heu consentit i per millorar la nostra comprensió de vosaltres. Podeu donar-vos de baixa en qualsevol moment.

El reconeixement biomètric per al seguiment, la vigilància i la detecció d'emocions no hauria de tenir cabuda en l'enfocament europeu de la intel·ligència artificial (IA) centrat en l'ésser humà. Comitè Econòmic i Social Europeu (CESE) en el seu resposta al Llibre blanc sobre IA de la Comissió Europea, aprovat pel ple del CESE el juliol.

La Comissió Europea ha proposat que una aplicació d'IA es consideri d'alt risc si implica tant un sector d'alt risc (assistència sanitària, transport, energia i parts del sector públic) com un ús d'alt risc, amb algunes excepcions que són encara per definir. Només si es compleixen aquestes dues condicions, suggereix la Comissió, s'hauria de parlar d'IA d'alt risc, que estaria sota regulacions i estructures de govern específiques.

El CESE considera que aquesta definició corre el risc de crear llacunes potencialment perilloses. La publicitat política de Facebook és un bon exemple, diu el Comitè.

"La publicitat és un sector de baix risc i la funció d'agregació de notícies de Facebook es pot considerar com un ús de baix risc. No obstant això", argumenta la ponent d'opinió Catelijne Muller, "hem vist durant les campanyes electorals que la propagació per Facebook de notícies falses i deepfakes generava. amb l'ajuda de la IA pot tenir molts efectes negatius i influir en la manera en què la gent vota, amb interferències fins i tot de fora d'Europa".

Hi hauria d'haver exempcions d'això, i quantes n'hi hauria d'haver? En lloc de fer una llista d'exempcions, el CESE creu que seria millor elaborar una llista de característiques comunes per considerar-se d'alt risc, sigui quin sigui el sector.

Moltes aplicacions tenen un fort impacte en els drets fonamentals, subratlla Muller, no només en la intimitat de les persones, sinó també en el seu dret a manifestar-se o a unir-se a un sindicat, per exemple.

El costat fosc del reconeixement biomètric

anunci

El reconeixement facial i biomètric és una àrea clau on la IA toca els drets fonamentals. El seu ús es pot permetre amb finalitats d'identificació personal i, de fet, està regulat pel Reglament General de Protecció de Dades.

Però s'hauria de prohibir l'ús generalitzat del reconeixement biomètric impulsat per la IA per a la vigilància o per fer un seguiment, avaluar o categoritzar el comportament o les emocions humanes. Tant més perquè no hi ha cap evidència científica que puguem discernir els sentiments d'una persona a partir de la seva biometria, subratlla Muller.

Aplicacions de seguiment i seguiment de la COVID-19

El CESE també adverteix contra un augment incontrolat de la tecnologia de seguiment i rastreig que s'introdueixi a la nostra societat molt més ràpidament i amb molt menys escrutini que abans, en un intent de lluitar contra el brot de coronavirus.

"Les tècniques i els enfocaments d'IA per lluitar contra la pandèmia haurien de ser tan robusts, efectius, transparents i explicables com qualsevol altra tècnica d'IA en qualsevol altra situació", diu el ponent del CESE. "Haurien de defensar els drets humans, els principis ètics i la legislació. També han de ser voluntaris, perquè, ens agradi o no, moltes tècniques introduïdes durant la crisi esdevindran permanents".

El CESE espera que la Comissió tingui en compte la seva aportació, tal com ha fet amb les recomanacions que el CESE ha presentat des de la seva opinió innovadora sobre IA el 2017, que va defensar per primera vegada un enfocament "human al comandament" de la IA a Europa.

Fons

El Llibre blanc d'AI, part d'un ampli paquet de mesures sobre IA anunciat a la Comunicació de la Comissió Europea sobre el futur digital d'Europa, proposa:

  • Mesures per racionalitzar la investigació, promoure la cooperació entre els estats membres i impulsar la inversió en IA, i;
  • opcions polítiques per a un futur marc normatiu de la UE sobre IA, amb un fort focus en les aplicacions d'alt risc.

El febrer de 2020, la Comissió va llançar una consulta pública sobre el Llibre Blanc que va durar fins al 14 de juny i va obtenir més de 1 respostes als qüestionaris i unes 200 comunicacions escrites. Actualment, la Comissió està processant aquesta aportació i aviat publicarà un informe.

Modelar el futur digital d'Europa descriu les accions que la Comissió Europea té previst prendre per garantir una Europa apta per a l'era digital, una de les principals prioritats d'Ursula von der Leyen durant la seva etapa com a presidenta de l'executiu europeu. Es basa en tres pilars clau:

  • Tecnologia que funciona per a les persones;
  • una economia digital justa i competitiva, i;
  • una societat oberta, democràtica i sostenible.

El CESE ha donat el seu consell "Donant forma al futur digital d'Europa" en un , també adoptat al ple del CESE de juliol, amb una recomanació clau:

"La gran velocitat de la transformació digital fa que no sabem quines novetats vindran el mes vinent. Per tant, hem de ser flexibles i adaptables. Això requereix un diàleg constant entre totes les parts implicades. El CESE, com a veu de la societat civil organitzada. societat, n'hauria de formar part, i demanem a la Comissió que estableixi aquest diàleg permanent", va dir el ponent d'opinió Ulrich Samm.

Comparteix aquest article:

EU Reporter publica articles de diverses fonts externes que expressen una àmplia gamma de punts de vista. Les posicions preses en aquests articles no són necessàriament les d'EU Reporter.

Tendències