És cert que la Comissió Europea ha fet molta feina des que la presidenta Ursula Von der Leyen i el seu equip van assumir el càrrec. Ja es va prometre el desembre de 2019 una "proposta legislativa" sobre IA: el que es va lliurar va ser un Llibre blanc d'AI al febrer. Si bé, certament, no és una proposta legislativa, és un document que ha iniciat el debat sobre la IA humana i ètica, l’ús del Big Data i com es poden utilitzar aquestes tecnologies per crear riquesa per a la societat i les empreses.
El Llibre blanc de la Comissió subratlla la importància d’establir un enfocament uniforme de la IA a tots els 27 estats membres de la UE, on diferents països han començat a adoptar el seu propi enfocament de la regulació i, per tant, potencialment, estan erigint barreres al mercat únic de la UE. També és important, per a Huawei, parlar dels plans per adoptar un enfocament basat en el risc per regular la IA.
A Huawei vam estudiar el Llibre blanc amb interès i juntament amb (més de 1,250!) Altres parts interessades, vam contribuir a la consulta pública de la Comissió, que es va tancar el 14 de juny, aportant les nostres aportacions i idees com a experts que treballen en aquest camp.
Trobar l’equilibri
El principal punt que hem subratllat a la Comissió és la necessitat de trobar l’equilibri adequat entre permetre la innovació i garantir una protecció adequada per als ciutadans.
En particular, ens vam centrar en la necessitat que les aplicacions d’alt risc es regulessin sota un marc legal clar i vam proposar idees sobre quina hauria de ser la definició d’IA. En aquest sentit, creiem que la definició d’IA hauria de reduir-se a la seva aplicació, amb avaluacions de riscos centrades en l’ús previst de l’aplicació i el tipus d’impacte resultant de la funció d’IA. Si hi ha llistes i procediments d'avaluació detallats perquè les empreses puguin fer les seves pròpies autoavaluacions, això reduirà el cost de l'avaluació inicial del risc, que ha de coincidir amb els requisits específics del sector.
Hem recomanat a la Comissió que estudie reunir organitzacions de consumidors, acadèmics, estats membres i empreses per avaluar si un sistema d’IA pot qualificar-se d’alt risc. Ja existeix un organisme establert per tractar aquest tipus de coses: el Comitè Tècnic de Sistemes d’Alt Risc (TCRAI). Creiem que aquest organisme podria avaluar i avaluar els sistemes d’IA enfront de criteris d’alt risc legal i tècnicament. Si aquest organisme prengués un cert control, combinat amb un sistema d’etiquetatge voluntari, s’oferiria un model de governança que:
• Considera tota la cadena de subministrament;
• estableix els criteris adequats i orienta l'objectiu previst de transparència per als consumidors / empreses;
• incentiva el desenvolupament i el desplegament responsable de la IA, i;
• crea un ecosistema de confiança.
Fora de les aplicacions d’alt risc de la IA, hem afirmat a la Comissió que el marc legal existent basat en la responsabilitat contractual i basada en fallades és suficient, fins i tot per a tecnologies d’última generació com la IA, on hi podria haver por que la nova tecnologia requereixi noves regles. No obstant això, no és necessària una regulació addicional; seria massa pesat i desaconsellaria l’adopció de la IA.
Pel que sabem del pensament actual de la Comissió, sembla que també té previst adoptar un enfocament basat en el risc per regular la IA. Concretament, la Comissió proposa centrar-se a curt termini en aplicacions d’intel·ligència artificial “d’alt risc”, és a dir, en sectors d’alt risc (com la sanitat) o en ús d’alt risc (per exemple, si produeix efectes legals o similars significatius sobre els drets d’un individu).
Què passa després?
La Comissió té molta feina a fer per aconseguir totes les respostes a la consulta, tenint en compte les necessitats de les empreses, la societat civil, les associacions comercials, les ONG i altres. La càrrega addicional de treballar a través de la crisi del coronavirus no ha ajudat les coses, ja que la resposta formal de la Comissió ara no s’espera fins al primer trimestre del 1.
Per descomptat, el coronavirus ha canviat el joc de l’ús de la tecnologia en salut i, sens dubte, tindrà un impacte en el pensament de la Comissió en aquest àmbit. Des de fa anys es parla de termes com ara "telemedicina", però la crisi ha convertit les consultes virtuals en realitat, gairebé d'un dia per l'altre.
Més enllà de la salut, veiem que el desplegament d’IA es desenvolupa contínuament en àrees com l’agricultura i els esforços de la UE per combatre el canvi climàtic. Estem orgullosos de Huawei de formar part d’aquest continu desenvolupament digital a Europa, una regió en la qual treballem des de fa 20 anys. El desenvolupament d’habilitats digitals és el centre d’això, que no només equipa les generacions futures amb les eines per aprofitar el potencial de la IA, sinó que també permetrà que la força de treball actual sigui activa i àgil en un món en constant canvi: hi ha un necessitat d’un enfocament inclusiu, basat en l’aprenentatge permanent i basat en la innovació, en matèria d’educació i formació en IA, per ajudar les persones a transitar sense problemes entre llocs de treball. La crisi ha tingut un fort impacte en el mercat laboral i calen solucions ràpides.
Mentre esperem la resposta formal de la Comissió al Llibre Blanc, què hi ha més a dir sobre la IA a Europa? Millor assistència sanitària, transport més segur i net, fabricació més eficient, agricultura intel·ligent i fonts d’energia més barates i sostenibles: aquests són només alguns dels beneficis que la IA pot aportar a les nostres societats i a la UE en el seu conjunt. Huawei treballarà amb els responsables polítics de la UE i s’esforçarà perquè la regió aconsegueixi l’equilibri correcte: innovació combinada amb protecció del consumidor.
