Algoritmii dezinformării

Dumitrița Holdiș, Coordonator proiecte, CJI

În fiecare an de 1 ianuarie, Președintele  Chinei , Xi Jinping, adresează, din biroul lui, urări de bine cetățenilor țării. Se speculează că Jinping își aranjează foarte conștiincios raftul bibliotecii înainte de aparițiile publice, pentru a trimite mesaje cetățenilor lui sau publicului internațional. Când, în 2018, două lucrări seminale despre algoritmi au apărut într-un loc central al bibliotecii, Internetul a zumzăit speculativ câteva zile bune. Fie că au fost poziționate strategic sau nu, cele două lucrări despre algoritmi au confirmat doar că aceștia sunt un subiect de interes pentru unul din cei mai puternici oameni din lume. Dar de ce citește președintele Chinei cărți despre algoritmi?

Un prim răspuns ar fi că algoritmii ne structurează din ce în ce mai mult viața, în moduri pe care nu le înțelegem în totalitate. Algoritmii cei mai prezenți din viața noastră sunt cei care sortează postările pe care le vedem pe Facebook și rezultatele sugerate de motorul de căutare Google. Anumiți algoritmi fac lucruri pe care nu le vedem: prezic și dirijează traficul prin semafoare, sunt folosiți în cercetări medicale sau pentru a sorta CV-uri pentru companiile de recrutare.  Dar recent, algoritmii au fost învinuiți și de răspândirea informațiilor false.

Dar cum fac acest lucru? Și ce sunt acești algoritmi, până la urmă?

În esență, un algoritm este o secvență de instrucțiuni care îi spune unui computer ce să facă. Unii algoritmi, însă, învață să ia o serie de decizii singuri, iar atunci devin sisteme de învățare automată, cunoscute mai bine sub numele de „inteligență artificială”. AI. MacKenzie Nelson de la organizația Algorithm Watch din Berlin declară pentru CJI: „În cazul învățării automate, o persoană îi va da unui sistem AI o instrucțiune, să zicem Fă un tort. Sistemul învață să facă un tort luând o serie de rețete de tort ca model, sau ca set de pregătire”. Deci, dacă Internetul ar fi doar un set de rețete de tort, tot noi, oamenii, am fi în continuare cei care decidem ce ingrediente sunt puse la dispozitie unui sistem AI. El va hotărî apoi ce tort vom servi la desert.

Deci sistemele AI folosesc datele produse de noi atunci când folosim Internetul. Sistemul AI folosit de Facebook a fost conceput pentru a ne ține cât mai mult pe rețeaua de socializare. Astfel acesta învață din comportamentul nostru și apoi încearcă să prezică acțiunile noastre. De fiecare dată când dai click pe o pagină sau o reclamă, algoritmul Facebook va nota acest lucru. Încet, dar sigur își va crea un profil despre tine și îți va recomanda conținut pe gustul tău. Îl va muta mai sus în pagină, ca să îl vezi mai repede. Îl va posta mai des, ca nu cumva să îți scape. Iar tu, consumând acel conținut, vei confirma din nou că îți plac aceleași lucruri.  Acest proces care face o preselecție  a conținutului pentru tine te va ține într-o bulă de informații care sunt similare cu altele pe care le-ai accesat deja. E la fel și când stai pe Facebook și accesezi pagini postate de prietenii tăi sau pagini sponsorizate de companii pe care le agreezi. Algoritmul Facebook e setat să te facă să interacționezi și să petreci cât mai mult timp online. Dar Facebook nu e singura rețea de socializare care face acest lucru. Ea este doar cea mai populară platformă care folosește acest tip de sistem.

Această logică de implicare a utlizatorului e cea care facilitează răspândirea știrilor false pe platformele de socializare. Fie că ne place sau nu, știrile senzaționaliste, informațiile false sau conspirațiile creează interes și implicare din partea utilizatorilor Facebook.  O postare despre fabricarea virsului COVID-19 în laboratoare secrete din China va atrage un număr mai mare de cititori decât o postare despre eforturile de dezvoltare a unui vaccin. O dată ce un utilizator va accesa de mai multe ori acest tip de conținut, va fi „servit” mai des tortul dezinformării. Algoritmul nu va face acest lucru intenționat sau controlat. Dar va învăța rapid că acest tip de „tort” e pe placul nostru. Mai mult, dacă tot mai multe ingrediente ale dezinformării vor popula Internetul, vom fi serviți din ce în ce mai multe torturi conspiraționiste.

Din nou, Mackenzie Nelson ne spune: „Este important să ne gândim la aceste sisteme ca la niște sisteme socio-tehnice, pentru că numai așa vom realiza că aici nu e vorba doar de un sistem care ne spune ce să facem. Suntem oameni care interacționează în diferite moduri. Din perspectiva Algorithm Watch, este important să ne amintim că suntem în continuare în control, nu suntem în situația în care roboții au devenit rebeli. În continuare, noi (oamenii) luăm decizii în legătură cu rezultatul final al sistemului AI și decidem ce intră în setul de instruire, cum este etichetat și codat acest set de instruire”. Platformele de  socializare au responsabilitatea de a se reforma și a încerca să gestioneze sistemele lor AI în așa fel încât să nu încurajeze răspândirea conținutului dăunător. Dar și noi, ca utilizatori, putem să învățăm să accesăm și să distribuim conținut într-un mod responsabil.