Comisia Europeană a constatat preliminar că TikTok încalcă Actul legislativ privind serviciile digitale (DSA), deoarece nu a evaluat și nu a redus suficient riscul ca utilizatorii să fie prinși într-un flux continuu de conținut care le poate afecta starea de bine. Comisia și-a exprimat îngrijorarea, în special, cu privire la riscul ca tinerii și adulții vulnerabili să fie expuși în mod repetat la conținut care le poate afecta sănătatea mintală.
Cazul TikTok este cea mai recentă investigație a UE în temeiul Actului legislativ privind serviciile digitale (DSA). Aceasta vizează riscul ca designul fluxului personalizat For You să îi atragă pe utilizatori într-un cerc vicios de conținut dăunător. Investigația arată că autoritățile cer, în sfârșit, schimbări fundamentale în modul de proiectare a rețelelor sociale. Este timpul să renunțăm la măsurile superficiale și să stabilim reguli clare pentru un spațiu digital mai sigur, care respectă drepturile omului.
Cum a ajuns „rețeta secretă” a TikTok să devină o vulnerabilitate
Constatările Comisiei confirmă rezultatele cercetărilor realizate de Amnesty International, care au arătat, în două studii ample, cum fluxul For You de pe TikTok îi poate atrage pe copiii care urmăresc videoclipuri despre sănătatea mintală într-un cerc vicios de conținut depresiv și despre suicid. Tinerii și părinții, care și-au pierdut copiii, ne-au povestit cum acest flux a normalizat și a agravat problemele adolescenților legate de depresie și autovătămare, cu urmări devastatoare.
TikTok a fost unul dintre principalii promotori ai schimbării modelului rețelelor sociale: de la conținut bazat pe conexiunile reale dintre oameni la recomandări algoritmice de la persoane necunoscute și celebrități, bazate pe profilarea utilizatorilor și pe colectarea intruzivă a datelor personale. Platforma se mândrește cu faptul că personalizează fluxul For You pentru fiecare utilizator în doar câteva minute.
În unele cazuri, după cum arată cercetarea noastră, un cont de copil poate trece de la vizionarea câtorva videoclipuri triste la un flux de conținut depresiv, inclusiv despre gânduri suicidare, în mai puțin de o oră. Un studiu realizat de Fundația Molly Rose a avertizat, de asemenea, asupra creșterii riscurilor pentru siguranța copiilor pe platformă în perioada 2023–2025, în pofida atenției sporite acordate TikTok. Toate acestea arată că soluțiile care vizează doar „utilizatorii problematici”, controlul parental sau interzicerea accesului adolescenților nu vor crea platforme sigure, care respectă viața privată și de care avem nevoie cu toții, indiferent de vârstă.
TikTok a contestat în repetate rânduri aceste constatări, invocând măsuri de siguranță precum Regulile comunității și instrumentele puse la dispoziția utilizatorilor. Ca reacție la constatările Comisiei Europene, un reprezentant TikTok a declarat pentru platforma de știri juridice MLex că: „Comisia a făcut mai multe afirmații fundamental greșite, care prezintă în mod denaturat felul în care funcționează platforma noastră și măsurile pe care le luăm pentru siguranța utilizatorilor. […] Avem un istoric solid în protejarea comunității noastre și le oferim, în același timp, utilizatorilor instrumente simple și directe pentru a controla conținutul pe care îl văd”.
Compania trebuie acum să răspundă oficial procedurii inițiate de Comisia Europeană, care se adaugă constatărilor anterioare ale instituției privind designul adictiv al platformei și siguranța copiilor.
Blocaje, presiuni mari și o soluție aparent simplă
Constatările preliminare apar în contextul unei dezbateri intense la nivel mondial despre cum pot fi protejați copiii în mediul online. După publicarea cercetării noastre din 2023, peste 170.000 de persoane s-au mobilizat și au semnat petiția Amnesty International prin care au cerut ca TikTok să devină mai sigur.
Tinerii au fost în prima linie a campaniilor pentru schimbarea modului de proiectare a rețelelor sociale. Recent, mai multe procese importante intentate companiilor Meta și TikTok în SUA au readus speranța că schimbarea este posibilă, după ani de impas politic în Congresul SUA. Totuși, în ultimul an, pe măsură ce presiunile au crescut, guvernele din întreaga lume, inclusiv majoritatea statelor membre ale UE, s-au orientat spre interzicerea accesului adolescenților la rețelele sociale, ca soluție rapidă. Astfel, au ales să „reglementeze copiii, nu companiile”, îndepărtându-se de reformele de fond care vizează modul de proiectare și modelul de afaceri al marilor platforme tehnologice.
În timp ce autoritățile europene încearcă să împace aceste abordări contradictorii printr-un amestec de noi măsuri de reglementare, inclusiv cerințe privind designul platformelor, instrumente controversate de verificare a vârstei și control parental, acest „caz de referință”, cum l-a numit un purtător de cuvânt al Comisiei Europene, arată o hotărâre binevenită de a aborda problema esențială: schimbarea radicală a unui model de afaceri bazat pe exploatarea datelor, atenției și vulnerabilităților oamenilor. TikTok nu este singura platformă care folosește acest model, dar a fost prima care a promovat fluxurile de conținut hiperpersonalizate. De aceea, este firesc ca investigația Comisiei să înceapă cu această platformă.
Încredere în tehnologie, dar și un plan de acțiune
Marea realizare a DSA este accentul pus pe riscurile sistemice, precum și conștientizarea faptului că alegerile de proiectare stau la baza experiențelor noastre pe platforme și pot avea un impact profund asupra vieților noastre din ce în ce mai digitalizate. Marea slăbiciune o reprezintă procesul lent de aplicare a legii, care se bazează pe rapoartele de evaluare și atenuare a riscurilor întocmite de platforme, punând autoritățile de reglementare în situația de a trebui să dovedească neconformitatea, fără ca acestea să fi stabilit de la bun început standarde suficient de clare.
De aici trebuie să înceapă această schimbare de direcție atât de necesară. Având în vedere aplicarea DSA și noile reglementări care urmează să fie adoptate (proiectul de lege al UE privind protecția copiilor și Legea privind echitatea digitală), autoritățile de reglementare europene trebuie să stabilească acum standarde obligatorii pentru proiectarea platformelor, pe baza cărora companiile să-și dovedească siguranța și conformitatea cu dovezi concrete, și nu prin asigurări vagi.
Aceste măsuri ar trebui să pornească de la o viziune clară asupra modului în care trebuie să funcționeze rețelele sociale pentru a fi sigure și a respecta drepturile utilizatorilor. Siguranța și respectarea acestor drepturi trebuie să fie asigurate din start, nu lăsate la alegerea utilizatorilor prin setări ascunse. Printre măsurile necesare se numără recomandarea conținutului în funcție de preferințele exprimate direct de utilizatori, nu pe baza profilării intruzive, eliminarea derulării infinite și a redării automate, precum și oferirea unor instrumente simple și accesibile, care să le permită utilizatorilor să controleze cu adevărat ceea ce văd și modul în care folosesc platformele.
Odată cu stabilirea unui diagnostic clar al problemei, există acum posibilitatea nu doar de a reduce efectele negative, ci și de a construi ceva mai bun: platforme concepute pentru a servi oamenii și nu invers.
Acest articol de opinie a fost publicat pentru prima dată în TechPolicyPress.

