Platforma de socializare X, cunoscută anterior ca Twitter, a jucat un rol central în răspândirea unor narațiuni false și a unor conținuturi nocive, care au alimentat violența rasistă împotriva comunităților de musulmani și migranți din Marea Britanie, după uciderea tragică a trei fete tinere în orașul Southport, a constatat Amnesty International într-o analiză tehnică publicată astăzi.

O analiză tehnică a codului open-source (sau software-ului disponibil public) al platformei X arată că sistemul său de recomandare (algoritmii de clasificare a conținutului), care alimentează pagina „Pentru tine”, prioritizează în mod sistematic conținutul ce stârnește indignare, provoacă schimburi aprinse de opinii, reacții și implicare, fără a dispune de măsuri adecvate pentru prevenirea sau atenuarea prejudiciilor.

„

Analiza noastră arată că designul algoritmic și alegerile politice ale companiei X au contribuit la creșterea riscurilor în contextul valului de violență anti-musulmană și anti-migranți observat anul trecut în mai multe locații din Marea Britanie și care continuă să reprezinte un risc grav pentru drepturile omului și în prezent,

Pat de Brún, coordonator pentru responsabilizarea companiilor Big Tech în cadrul Amnesty International.

Pe 29 iulie 2024, trei fete tinere, Alice Dasilva Aguiar, Bebe King și Elsie Dot Stancombe, au fost ucise, iar alte 10 au fost rănite de Axel Rudakubana, în vârstă de 17 ani. La câteva ore după atac, informații eronate și false despre identitatea, religia și statutul de imigrant al autorului au inundat platformele de socializare și au fost foarte vizibile pe X.

Analiza Amnesty International asupra algoritmului open-source de recomandare al platformei X a scos la iveală alegeri sistemice de design care favorizează interacțiunile controversate în detrimentul siguranței.

Sistemul algoritmic de ierarhizare al platformei X, dezvăluit prin codul său sursă publicat în martie 2023, arată că informațiile false, indiferent cât de nocive sunt, pot fi prioritizate și apar mai rapid în fluxurile utilizatorilor decât informațiile verificate. Modelul „heavy ranker” al platformei X, un sistem de învățare automată care decide ce postări sunt promovate, prioritizează „conversația”, indiferent de natura conținutului. Atâta timp cât o postare generează interacțiuni, algoritmul pare să nu dispună de vreun mecanism pentru a evalua potențialul de a provoca daune, cel puțin nu până când un număr suficient de utilizatori o raportează. Aceste caracteristici de design au creat un teren propice pentru răspândirea narațiunilor rasiste și inflamatorii pe X, după atacul de la Southport.

Analiza suplimentară a sistemului a evidențiat, de asemenea, existența unor prejudecăți integrate de amplificare, favorizând abonații „Premium” (fost „Blue”), ale căror postări sunt promovate automat în detrimentul celor publicate de utilizatorii obișnuiți. Înainte ca autoritățile să publice informațiile oficiale, pe rețelele sociale au început să circule declarații false și narațiuni islamofobe despre incident. De asemenea, hashtaguri precum #Stabbing și #EnoughisEnough au fost folosite pentru a răspândi afirmații false potrivit cărora atacatorul ar fi fost musulman și/sau solicitant de azil.

Un cont de pe X numit „Europe Invasion”, cunoscut pentru publicarea de conținut anti-imigrație și islamofob, a postat la scurt timp după ce au apărut știrile despre atac că suspectul era „pretins a fi un imigrant musulman”. Acea postare a acumulat peste patru milioane de vizualizări. În decurs de 24 de ore, toate postările de pe X care speculau că autorul era musulman, refugiat, cetățean străin sau a sosit cu barca au înregistrat un total estimat de 27 de milioane de impresii.

Tragedia de la Southport a avut loc într-un context de schimbări majore în politica și personalul platformei X. De la preluarea controlului de către Elon Musk, la sfârșitul anului 2022, X a concediat angajați din echipa de moderare a conținutului, a restabilit conturi anterior suspendate, a desființat consiliul consultativ pentru încredere și siguranță al Twitter, a concediat ingineri din echipa de încredere și siguranță și a reactivat numeroase conturi care fuseseră interzise anterior pentru discursuri instigatoare la ură sau hărțuire, inclusiv contul lui Stephen Yaxley-Lennon, un activist de extremă dreapta cunoscut sub numele de Tommy Robinson.

Mesaje agresive

Tommy Robinson le-a spus celor 840.000 de urmăritori ai săi de pe platforma X că există „mai multe dovezi care sugerează că islamul este o problemă de sănătate mintală, și nu o religie a păcii”, amplificând astfel ostilitatea față de musulmani.

Elon Musk, proprietarul platformei X, care are 140 de milioane de urmăritori pe contul său personal, a amplificat, de asemenea, în mod notabil narațiunile false legate de atacul de la Southport. Pe 5 august 2024, în timp ce revoltele se răspândeau, el a comentat un videoclip postat de Ashley St Clair, spunând că „războiul civil este inevitabil”.

Prim-ministrul Marii Britanii, Keir Starmer, a intervenit cu un apel la protejarea musulmanilor, în contextul valurilor de atacuri țintite ale mulțimilor asupra moscheilor, adăposturilor pentru refugiați și comunităților asiatice, negre și musulmane.

Ca răspuns, Elon Musk a replicat public: „Nu ar trebui să vă îngrijoreze atacurile asupra tuturor comunităților?”

Amnesty International’s analysis shows that in the two weeks following the Southport attack, Tommy Robinson’s posts on X received over 580 million views – an unprecedented reach for a figure banned on most mainstream platforms for breaching hate speech rules.

Analiza Amnesty International arată că, în cele două săptămâni de după atacul de la Southport, postările lui Tommy Robinson pe platforma X au fost vizualizate de peste 580 de milioane de ori, o audiență fără precedent pentru o persoană interzisă pe majoritatea platformelor principale din cauza încălcării regulilor privind discursul instigator la ură.

Am trimis o scrisoare către X, datată 18 iulie 2025, în care am împărtășit constatările noastre și am oferit companiei posibilitatea de a răspunde. Până la momentul publicării, compania nu a oferit niciun răspuns.

Timpul responsabilizării

Analiza Amnesty International privind designul și politicile platformei X ridică îngrijorări serioase legate de modul în care funcționează sistemul său de recomandare în situații de criză. Modul în care acest sistem evaluează, clasifică și promovează conținutul — în special postările care generează reacții puternice sau care sunt distribuite ori create de conturi „albastre” sau „premium” — poate conduce la răspândirea materialelor dăunătoare către audiențe mai largi.

„

Fără măsuri eficiente de protecție, crește probabilitatea ca postările inflamatorii sau ostile să câștige teren în perioadele de tensiune socială accentuată,

Pat de Brún.

Atunci când astfel de conținut vizează grupuri rasiale, religioase sau alte grupuri marginalizate, acest lucru poate genera riscuri serioase pentru drepturile omului ale membrilor acestor comunități. Eșecul platformei X de a preveni sau de a reduce în mod adecvat aceste riscuri previzibile reprezintă o încălcare a respectării drepturilor omului.

Deși cadrul legislativ, precum Legea pentru Siguranța Online din Regatul Unit (LSO) și Legea Serviciilor Digitale a UE (LSD), stabilește acum obligații legale pentru platforme de a evalua și diminua unele riscuri sistemice, aceste obligații trebuie aplicate cu rigurozitate pentru a avea efect. Alegerea designului și practicile opace ale platformei X continuă să reprezinte riscuri pentru drepturile omului, cerând o responsabilizare mai mare, nu doar o simplă supraveghere.

Amnesty International solicită aplicarea efectivă a reglementărilor și implementarea unor măsuri ferme de responsabilizare pentru a combate prejudiciile sistemice generate de deciziile de design ale platformei X. Guvernul Regatului Unit trebuie, de asemenea, să remedieze lacunele existente în actualul regim de siguranță online pentru a trage la răspundere platforme precum X pentru prejudiciile mai largi cauzate de algoritmii lor.

Context:

Autoritățile britanice au reacționat la revoltele rasiste de la Southport printr-o serie de arestări, acuzând persoane care au folosit platforma X și alte rețele sociale pentru a incita la violență sau pentru a răspândi informații false și malitioase. Unii dintre făptași au primit pedepse cu închisoarea pentru postările lor pe rețelele sociale. Un raport parlamentar britanic din iulie 2025 a constatat că modelele de afaceri ale rețelelor sociale au stimulat răspândirea dezinformării după crimele de la Southport.