Després de tres dies de converses 'marató', la presidència del Consell i els negociadors del Parlament Europeu han arribat a un acord provisional sobre la proposta de normes harmonitzades sobre intel·ligència artificial (IA), l'anomenada llei d'intel·ligència artificial. L'esborrany de reglament té com a objectiu garantir que els sistemes d'IA col·locats al mercat europeu i utilitzats a la UE siguin segurs i respectin els drets fonamentals i els valors de la UE. Aquesta proposta històrica també pretén estimular la inversió i la innovació en IA a Europa.
Aquest és un èxit històric i una gran fita cap al futur! L'acord d'avui aborda de manera efectiva un repte global en un entorn tecnològic en ràpida evolució en un àmbit clau per al futur de les nostres societats i economies. I en aquest esforç hem aconseguit mantenir un equilibri extremadament delicat: impulsar la innovació i l'adopció de la intel·ligència artificial a tot Europa respectant plenament els drets fonamentals dels nostres ciutadans. Carme Artigas, secretària d'estat espanyola de digitalització i intel·ligència artificial.
L'acte d'IA és a vaixell insígnia iniciativa legislativa amb el potencial de fomentar el desenvolupament i l'adopció d'IA segura i fiable al mercat únic de la UE per part dels actors públics i privats. La idea principal és regular la IA en funció de la capacitat d'aquesta última per causar danys a la societat després de a 'basat en el risc' enfocament: com més gran sigui el risc, més estrictes són les regles. Com a primera proposta legislativa d'aquest tipus al món, pot establir a estàndard global per a la regulació de la IA en altres jurisdiccions, tal com ha fet el GDPR, promovent així l'enfocament europeu de la regulació tecnològica a l'escenari mundial.
Els principals elements de l'acord provisional
En comparació amb la proposta inicial de la Comissió, els principals nous elements de l'acord provisional es poden resumir de la següent manera:
regles sobre models d'IA de propòsit general d'alt impacte que poden provocar un risc sistèmic en el futur, així com un risc elevat Sistemes d’intel·ligència artificial
un sistema revisat de governança amb alguns poders d'execució a nivell de la UE
ampliació de la llista de prohibicions però amb la possibilitat d'utilitzar identificació biomètrica a distància per les autoritats policials en espais públics, subjectes a salvaguardes
una millor protecció dels drets mitjançant l'obligació dels desplegadors de sistemes d'IA d'alt risc de dur a terme a Avaluació de l'impacte dels drets fonamentals abans de posar en ús un sistema d'IA.
En termes més concrets, l'acord provisional contempla els aspectes següents:
Definicions i abast
Per garantir que el fitxer definició d'un sistema d'IA proporciona criteris prou clars per distingir la IA dels sistemes de programari més simples, l'acord de compromís alinea la definició amb l'enfocament proposat per l'OCDE.
L'acord provisional també aclareix que el reglament no s'aplica a àmbits fora de l'àmbit de la legislació de la UE i no hauria d'afectar, en cap cas, les competències dels estats membres en matèria de seguretat nacional o qualsevol entitat encarregada de tasques en aquest àmbit. A més, la llei d'IA no s'aplicarà als sistemes que s'utilitzen exclusivament militar or defensa finalitats. De la mateixa manera, l'acord preveu que la regulació no s'aplicaria als sistemes d'IA utilitzats amb l'únic propòsit de recerca i innovació, o per a persones que utilitzen IA per motius no professionals.
anunci
Classificació dels sistemes d'IA com a pràctiques d'IA d'alt risc i prohibides
L'acord de compromís preveu a capa horitzontal de protecció, inclosa una classificació d'alt risc, per garantir que els sistemes d'IA que no puguin causar greus violacions dels drets fonamentals o altres riscos significatius no es captin. Només es presenten sistemes d'IA risc limitat estarien subjectes a molta llum obligacions de transparència, per exemple revelant que el contingut s'ha generat amb intel·ligència artificial perquè els usuaris puguin prendre decisions informades sobre un ús posterior.
Un ampli ventall de alt risc Els sistemes d'IA estarien autoritzats, però subjectes a un conjunt de requisits i obligacions per accedir al mercat de la UE. Aquests requisits han estat aclarits i ajustats pels colegisladors de manera que siguin més tècnicament factible i menys pesada que les parts interessades compleixin, per exemple, pel que fa a la qualitat de les dades, o en relació amb la documentació tècnica que haurien d'elaborar les pimes per demostrar que els seus sistemes d'IA d'alt risc compleixen els requisits.
Atès que els sistemes d'IA es desenvolupen i distribueixen a través de cadenes de valor complexes, l'acord de compromís inclou canvis que aclareixen el repartiment de responsabilitats i rols dels diferents actors en aquestes cadenes, en particular els proveïdors i usuaris de sistemes d'IA. També aclareix la relació entre les responsabilitats en virtut de la Llei d'IA i les responsabilitats que ja existeixen en virtut d'altres lleis, com ara la legislació sectorial o la protecció de dades de la UE pertinents.
Per a alguns usos de la IA, es considera risc inacceptable i, per tant, aquests sistemes seran prohibits a la UE. L'acord provisional prohibeix, per exemple, el cognitiu manipulació conductual, el no dirigit desballestament d'imatges facials d'Internet o imatges de CCTV, reconeixement de les emocions al lloc de treball i a les institucions educatives, puntuació social, categorització biomètrica per inferir dades sensibles, com ara l'orientació sexual o les creences religioses, i alguns casos de policia predictiva per a particulars.
Excepcions d'aplicació de la llei
Tenint en compte les especificitats de autoritats policials i la necessitat de preservar la seva capacitat d'utilitzar la IA en la seva tasca vital, es van acordar diversos canvis a la proposta de la Comissió en relació amb l'ús de sistemes d'IA per a l'aplicació de la llei. Subjecte al que correspongui garanties, aquests canvis estan pensats per reflectir la necessitat de respectar la confidencialitat de les dades operatives sensibles en relació a les seves activitats. Per exemple, es va introduir un procediment d'emergència que permetia a les forces de l'ordre desplegar una eina d'IA d'alt risc que no hagi aprovat el avaluació de la conformitat procediment en cas d'urgència. Tanmateix, també s'ha introduït un mecanisme específic per garantir-ho drets fonamentals estarà prou protegit contra qualsevol possible mal ús dels sistemes d'IA.
A més, pel que fa a l'ús del temps real identificació biomètrica a distància sistemes en espais accessibles al públic, l'acord provisional aclareix els objectius en els quals aquest ús és estrictament necessari per a l'aplicació de la llei i per als quals les autoritats competents, per tant, s'haurien de permetre excepcionalment utilitzar aquests sistemes. L'acord de compromís preveu garanties addicionals i limita aquestes excepcions als casos de víctimes de determinats delictes, la prevenció d'amenaces genuïnes, presents o previsibles, com ara els atemptats terroristes, i la recerca de persones sospitoses dels delictes més greus.
Sistemes d'IA d'ús general i models de fonamentació
S'han afegit noves disposicions per tenir en compte les situacions en què els sistemes d'IA es poden utilitzar per a molts propòsits diferents (IA de propòsit general), i on la tecnologia d'IA de propòsit general s'integra posteriorment en un altre sistema d'alt risc. L'acord provisional també aborda els casos específics dels sistemes d'IA de propòsit general (GPAI).
També s'han acordat normes específiques models de fonamentació, grans sistemes capaços de realitzar de manera competent un ampli ventall de tasques distintives, com ara generar vídeo, text, imatges, conversar en llenguatge lateral, calcular o generar codi informàtic. L'acord provisional preveu que els models de fundació s'han de complir amb una normativa específica obligacions de transparència abans de posar-los al mercat. Es va introduir un règim més estricte 'alt impacte' models de fonamentació. Es tracta de models bàsics entrenats amb gran quantitat de dades i amb complexitat, capacitats i rendiment avançats molt per sobre de la mitjana, que poden difondre riscos sistèmics al llarg de la cadena de valor.
Una nova arquitectura de govern
Seguint les noves normes sobre models GPAI i la necessitat òbvia de la seva aplicació a nivell de la UE, an Oficina d'IA dins de la Comissió es crea l'encàrrec de supervisar aquests models d'IA més avançats, contribuir a fomentar estàndards i pràctiques de prova i fer complir les normes comunes a tots els estats membres. A panel científic d'experts independents assessorarà l'Oficina d'IA sobre els models GPAI, contribuint al desenvolupament de metodologies per avaluar les capacitats dels models de fonamentació, assessorant sobre la designació i l'aparició de models de fonamentació d'alt impacte, i supervisant els possibles riscos de seguretat dels materials relacionats amb els models de fonamentació.
El Junta d'AI, que inclouria representants dels estats membres, seguirà sent una plataforma de coordinació i un òrgan assessor de la Comissió i donarà un paper important als estats membres en l'aplicació del reglament, inclòs el disseny de codis de pràctica per als models de fundació. Finalment, an fòrum d'assessorament per a les parts interessades, com ara els representants del sector, les pimes, les empreses emergents, la societat civil i el món acadèmic, es crearà per oferir coneixements tècnics al Consell d'IA.
sancions
Les multes per infraccions de la llei d'IA es van establir com a percentatge de la facturació anual global de l'empresa infractora durant l'exercici anterior o una quantitat predeterminada, el que sigui més gran. Això seria de 35 milions d'euros o 7% per a les infraccions de les aplicacions d'IA prohibides, 15 milions d'euros o 3% per a les infraccions de les obligacions de la llei d'IA i 7,5 milions o 1,5% per al subministrament d'informació incorrecta. Tanmateix, l'acord provisional preveu límits més proporcionats sobre multes administratives per a pimes i empreses emergents en cas d'incompliment del que disposa la llei d'IA.
L'acord de compromís també deixa clar que una persona física o jurídica pot presentar una queixa davant el corresponent autoritat de vigilància del mercat sobre l'incompliment de la llei d'IA i pot esperar que aquesta queixa es resolgui d'acord amb els procediments específics d'aquesta autoritat.
Transparència i protecció dels drets fonamentals
L'acord provisional preveu a Avaluació de l'impacte dels drets fonamentals abans que els seus implementadors posin al mercat un sistema d'IA d'alt risc. L'acord provisional també preveu un augment transparència sobre l'ús de sistemes d'IA d'alt risc. En particular, s'han modificat algunes disposicions de la proposta de la Comissió per indicar que determinats usuaris d'un sistema d'IA d'alt risc que són entitats públiques també estaran obligats a registrar-se al Base de dades de la UE per a sistemes d'IA d'alt risc. A més, les disposicions afegides recentment posen l'accent en una obligació per als usuaris d'un sistema de reconeixement d'emocions informar les persones físiques quan estiguin exposades a aquest sistema.
Mesures de suport a la innovació
Amb l'objectiu de crear un marc legal més favorable a la innovació i de promoure l'aprenentatge normatiu basat en l'evidència, les disposicions relatives a mesures de suport a la innovació s'han modificat substancialment en comparació amb la proposta de la Comissió.
En particular, s'ha aclarit que la IA caixes de sorra reguladores, que se suposa que han d'establir un entorn controlat per al desenvolupament, proves i validació de sistemes d'IA innovadors, també haurien de permetre provar sistemes d'IA innovadors en condicions del món real. A més, s'han afegit noves disposicions que permeten les proves dels sistemes d'IA a condicions del món real, sota condicions i salvaguardes específiques. Per alleujar la càrrega administrativa de les empreses més petites, l'acord provisional inclou una llista d'accions que s'han de dur a terme per donar suport a aquests operadors i preveu algunes excepcions limitades i clarament especificades.
Entrada en vigor
L'acord provisional preveu que s'apliqui la llei d'IA dos anys després de la seva entrada en vigor, amb algunes excepcions per disposicions específiques.
Propers passos
Després de l'acord provisional d'avui, es continuarà treballant a nivell tècnic durant les properes setmanes per concretar els detalls de la nova normativa. La presidència presentarà el text de compromís als representants dels estats membres (Coreper) perquè l'aprovin un cop hagi finalitzat aquest treball.
Tot el text haurà de ser confirmat per ambdues institucions i sotmès a una revisió jurídicolingüística abans de l'adopció formal per part dels colegisladors.
La informació d'antecedents
La proposta de la Comissió, presentada l'abril de 2021, és un element clau de la política de la UE per fomentar el desenvolupament i l'adopció al mercat únic d'una IA segura i legal que respecti els drets fonamentals.
La proposta segueix un enfocament basat en el risc i estableix un marc legal uniforme i horitzontal per a la IA que té com a objectiu garantir la seguretat jurídica. El projecte de reglament té com a objectiu promoure la inversió i la innovació en IA, millorar la governança i l'aplicació efectiva de la legislació vigent sobre drets fonamentals i seguretat, i facilitar el desenvolupament d'un mercat únic per a les aplicacions d'IA. Va de la mà d'altres iniciatives, com ara el pla coordinat d'intel·ligència artificial que pretén accelerar la inversió en IA a Europa. El 6 de desembre de 2022, el Consell va arribar a un acord per a un enfocament general (mandat de negociació) sobre aquest expedient i va iniciar converses interinstitucionals amb el Parlament Europeu ('trílegs') a mitjans de juny de 2023.
EU Reporter publica articles de diverses fonts externes que expressen una àmplia gamma de punts de vista. Les posicions preses en aquests articles no són necessàriament les d'EU Reporter.
