Pel que fa a l’extremisme en línia, Big Tech continua sent el nostre principal problema

Durant els darrers dos mesos, els legisladors del Regne Unit i Europa han introduït una sèrie d’importants noves factures amb l'objectiu de frenar el paper maliciós que la tecnologia gran té en la difusió de contingut extremista i terrorista en línia, escriu Projecte Director Executiu de Counter Extremism David Ibsen.

En aquest nou clima legislatiu, els gegants de les xarxes socials, com Facebook, Twitter i YouTube, que durant anys han estat complaents, si no deliberadament negligents, en la vigilància de les seves plataformes, finalment comencen a ser pressionats. No és sorprenent que els seus esforços tardans per apaivagar els governs mitjançant iniciatives d’autoregulació com Digital Trust and Safety Partnership ja estiguin donant pas a la recerca de bocs expiatoris.

Darrerament, Big Tech els defensors han començat a promoure la idea que el contingut extremista i terrorista en línia continua sent un problema únicament per a llocs de xarxes socials més petits i plataformes xifrades alternatives. Tot i que val la pena avançar-se a l’abordatge de l’extremisme i el terrorisme en llocs més petits i alternatius, la narració general aquí és més que una mica convenient per a Silicon Valley i és defectuosa en diversos aspectes crucials.

La difusió de material extremista i terrorista continua sent un gran problema per a Big Tech. En primer lloc, encara no som a prop de la terra promesa d’un entorn de xarxes socials convencional lliure de missatges extremistes. Lluny de ser la gran tecnologia líder en moderació de contingut, un estudi sobre responsabilitat mediàtica publicat el febrer d’aquest any va trobar que Facebook, Twitter i YouTube s’estaven significativament superat per part de plataformes més petites en els seus esforços per eliminar publicacions perjudicials.

El mateix mes, els investigadors del CEP van descobrir una extensa memòria cau de Contingut ISIS a Facebook, incloent execucions, exhortacions a cometre actes de violència i imatges de combat, que els moderadors havien ignorat completament.

Aquesta setmana, amb els índexs de violència antisemita que augmenten als Estats Units i Europa, el CEP ha tornat a identificar-ho contingut neo-nazi explícit a través d'una gran quantitat de plataformes principals, com ara YouTube, Instagram propietat de Facebook i Twitter.

En segon lloc, fins i tot en un futur imaginari en què les comunicacions extremistes es produeixen principalment a través de plataformes descentralitzades, els grups extremistes encara dependrien d'alguna forma de connexió amb els punts de venda principals per fer créixer la seva base de suport ideològic i reclutar nous membres.

anunci

Totes les històries de radicalització comencen en algun lloc i regular el Big Tech és el pas més gran que podríem fer per evitar que els ciutadans comuns siguin arrossegats pels forats de conill extremistes.

I, tot i que el contingut perillós i odiós pot fluir amb més llibertat en llocs no moderats, els extremistes i els terroristes encara desitgen accedir a grans plataformes convencionals. La naturalesa quasi omnipresent de Facebook, Twitter, YouTube i altres ofereix als extremistes la possibilitat d’arribar a un públic més ampli, per aterrir o reclutar tanta gent com sigui possible. Per exemple, l'assassí de Christchurch, Brenton Tarrant, que es va dedicar a transmetre en directe les seves atrocitats a Facebook Live, va tenir el seu vídeo d'atac tornat a penjar més d'1.5 milions de vegades.

Ja sigui que sigui jihadistes intentant encendre un califat mundial o neonazis intentant iniciar una guerra racial, l’objectiu del terrorisme avui és captar l’atenció, inspirar extremistes afins i desestabilitzar les societats en la major mesura possible.

Amb aquest objectiu, simplement no es poden subestimar els efectes amplificadors dels principals canals de xarxes socials. Una cosa és que un extremista es comuniqui a un petit grup de cohorts ideològiques en una xarxa encriptada obscura. És una cosa completament diferent per a ells compartir la seva propaganda amb centenars de milions de persones a Facebook, Twitter o YouTube.

No seria exagerat dir que evitar que això es produeixi mitjançant una regulació eficaç de la Big Tech ajudaria a combatre fonamentalment el terrorisme modern i evitaria que els extremistes i els terroristes aconseguissin un públic majoritari.

La creixent descentralització de l’extremisme en línia és una qüestió important que han de tractar els legisladors, però qualsevol que ho plantegi per intentar ocultar la importància de regular Big Tech simplement no té en el fons l’interès del públic.

David Ibsen és el director executiu del Projecte contra l'extremisme (CEP), que treballa per combatre la creixent amenaça de la ideologia extremista, especialment exposant l'ús indegut de les xarxes financeres, empresarials i de comunicacions pels extremistes. El CEP utilitza les eines tecnològiques i de comunicació més recents per identificar i contrarestar la ideologia extremista i el reclutament en línia.

Comparteix aquest article: