Una estratègia intel·ligent #AI pot convèncer a la UE que la moderació del contingut de #Facebook és capaç de fer tabac?

El 17 de febrer, mentre es reunia amb els responsables polítics europeus a Brussel·les, el conseller delegat de Facebook, Mark Zuckerberg (A la foto) va publicar un llibre blanc que exposava la seva estratègia per tractar contingut nociu a les plataformes de xarxes socials. Com a resposta al desig de la Unió Europea de ratllar la supervisió del sector de la tecnologia, el multimilionari va argumentar que la indústria havia de ser regulada a nivell global, i no local.

També va argumentar que s'hauria de limitar la rendició de comptes de les empreses tecnològiques pel contingut nociu a les seves plataformes, sempre que tinguin sistemes de moderació de contingut efectius. Els suggeriments de Zuckerberg, però, van rebre a Brussel·les una acollida decididament gelada. Fins i tot després d’haver-se reunit amb Zuckerberg, la UE va mantenir que la nova proposta de moderació de contingut de Facebook es quedava desviada en molts fronts, particularment al no definir els passos concrets que la plataforma faria per combatre el contingut il·legal en línia. "No és suficient. És massa lent, massa baix en termes de responsabilitat i regulació ", va opinar el comissari d'estratègia de dades, Thierry Breton, després de la seva posició amb el màxim executiu de Facebook.

On queda el sistema actual de Facebook?

Els gegants tècnics tenen una finestra força estreta per convèncer els responsables polítics europeus que els seus propis esforços per frenar el contingut problemàtic són suficients. La Llei sobre serveis digitals de la Comissió, l'esperada revisió de la directiva de comerç electrònic de 20 anys de la UE, es preveu per a la llum a finals d'aquest any. Com va assenyalar Breton, "si veiem que [el procés propi de Facebook per moderar el contingut] no és el que necessitem pel que fa als nostres propis estàndards, haurem de regular i posar-ho a la nostra [Llei sobre serveis digitals]".

Facebook es determina que és capaç de resoldre el problema de la moderació del contingut en si mateix, mitjançant els avenços en Intel·ligència Artificial (IA) i l'aprenentatge automàtic per impulsar el seu sistema actual. La espinosa tasca d’identificar i treure material problemàtic actualment es subcontracta a professionals de tercers que utilitzen la seva discreció per determinar per què es pot objectar una imatge o vídeo.

La confiança en aquesta supervisió humana és problemàtica, atès que la natura horrible d'alguns moderadors de continguts es veu obligada a recórrer -per el fet que els empleats que moderen contingut per a Facebook a Lisboa, Dublín i Varsòvia han demostrat que el seu treball els ha proporcionat PTSD és segur que aixecarà banderes vermelles. a les institucions europees. A més, s’ha posat en dubte l’eficàcia de la moderació humana després que Facebook hagi fallat en diverses ocasions a l’hora d’eliminar ràpidament contingut perjudicial, com ara la transmissió en directe del 2019 de l’atac a la mesquita de Christchurch.

L’AI pot connectar alguns dels punts cecs de Facebook

anunci

La intel·ligència artificial pot reduir significativament aquesta dependència de la moderació humana. Algorismes formats per l'aprenentatge automàtic poden donar suport als moderadors no només reduint la seva exposició a contingut en línia nociu, sinó també augmentant la seva productivitat i precisió. Facebook afirma haver vist resultats prometedors en els seus experiments amb AI fins ara, segons la plataforma, durant la segona meitat del 2019 la plataforma va aconseguir marcar el 99.8% del contingut gràfic i el 99.5% de la nuesa i l'explotació infantil fins i tot abans que els usuaris els senyalessin. . Per descomptat, la tecnologia encara necessita la correcció —alguns algoritmes de moderació de contingut basats en IA encara lluiten especialment per reconèixer els matisos del discurs d’odi, per exemple—, un tema que li preocupa especialment la Unió Europea.

És més, la Unió Europea es mostra preocupada de permetre un regnat gratuït a Facebook en l'explotació d'una tecnologia tan sensible com l'AI. Aquestes preocupacions es deriven principalment del mal historial de Facebook que compleix els estàndards europeus de transparència, augmentant l’espectre que la companyia podria desenvolupar “algoritmes de caixa negra” que impedeixin auditories de tercers o governs a la plataforma.

Al cor de la política digital, publicada la setmana passada per la zar digital de la UE i la cap de competència, Margrethe Vestager, està regulant com les empreses utilitzen la intel·ligència artificial. Si bé la UE vol que els governs facin un seguiment dels aspectes més arriscats, com l’ús de la tecnologia de reconeixement facial, moltes aplicacions al pati del darrere d’Europa estan demostrant com es pot utilitzar de forma segura i eficaç. Puc fer que Facebook us faci una idea?

A continuació, les aplicacions de xarxes socials següents marcaran la seva marca utilitzant AI de manera innovadora

Una aplicació europea, en particular, ha aprofitat creativament la intel·ligència artificial per proporcionar als seus usuaris joves una experiència més segura i agradable. Yubo, una aplicació de transmissió en directe de 13 a 25 anys, confia en un equilibri entre algoritmes complexos i educar els joves sobre els perjudicis en línia per mantenir els seus 20 milions d’usuaris segurs a la plataforma. Un algorisme que detecta detingudament contingut problemàtic com ara la nuesa o algú només es troba en la seva roba interior en un flux en viu, que és quan el sistema d’intervenció en temps real de Yubo s’inicia, enviant un missatge d’alerta als usuaris i explica per què aquest comportament és objectable. Si l’usuari no corregeix el seu comportament, el flux es pot desactivar de forma remota.

Mentrestant, per a assegurar-se que l’aplicació està reservada a adolescents i joves adults, Yubo s’ha unit amb el popular proveïdor d’identitat digital basat al Regne Unit, Yoti, que coincideix amb els documents d’identificació carregats als selfies de l’usuari mitjançant un programari de reconeixement facial. La tecnologia de Yoti, que també s’està desplegant als supermercats per assegurar-se que els menors de 18 anys no compren productes restringits com cigarrets o alcohol, poden ser utilitzats per altres aplicacions de xarxes socials per “agafar l’edat” de la seva comunitat o per assegurar-se que els usuaris siguin qui diuen que són.

Els intents de Yubo de combatre el contingut en línia problemàtic a l’agència —combinant la moderació assistida per ordinador amb la sensibilització dels usuaris joves sobre el que fa i el no bon protocol en línia— han suposat un gran impacte en el sector de la tecnologia. També haurien de proporcionar un exemple encoratjador tant als gegants tecnològics com Facebook i als reguladors com la Unió Europea que les plataformes de xarxes socials poden aconseguir un equilibri saludable entre dependre excessivament de la IA o de la supervisió humana.

La intel·ligència artificial no és una solució per a resoldre els reptes que tenen les plataformes de xarxes socials. Com que Facebook vol convèncer a la UE que és capaç de moderar el seu propi contingut, no obstant això, es donaria un bon compte de les aplicacions de nova generació que han aconseguit desenvolupar una estratègia holística, que incorpora AI, per mantenir els seus usuaris segurs. .

Comparteix aquest article: