În spatele emoticoanelor cu morcovi de pe Facebook se ascund de fapt postările anti-vaccin

Grupurile de pe Facebook folosesc emoticoane cu morcov pentru a ascunde conținutul anti-vaccin de instrumentele de moderare automată.

Algoritmii Facebook au tendința de a se concentra pe cuvinte mai degrabă decât pe imagini

BBC a analizat mai multe grupuri, unul cu sute de mii de membri, în care emoji-ul apare în locul cuvântului „vaccin”.

Grupurile sunt folosite pentru a împărtăși afirmații neverificate despre persoane care au fost fie rănite, fie ucise de vaccinuri.

După ce BBC a alertat compania mamă a Facebook, Meta, grupurile au fost eliminate.

„Am eliminat acest grup pentru că a încălcat politicile noastre privind dezinformarea dăunătoare și vom revizui orice alt conținut similar în conformitate cu această politică.

Continuăm să lucrăm îndeaproape cu experții în sănătate publică și cu guvernul britanic pentru a combate în continuare dezinformarea privind vaccinurile Covid”, a precizat firma într-un comunicat.

Cu toate acestea, grupurile au reapărut

Unul dintre grupuri există de trei ani, dar s-a rebranduit pentru a se concentra pe poveștile despre vaccinuri, de la a fi un grup pentru schimbul de „glume, pariuri și videoclipuri amuzante” în august 2022.

Regulile grupului precizează: „Folosiți cuvinte de cod pentru orice”. Se adaugă: „Nu folosiți niciodată cuvântul cu c, cuvântul cu v sau cuvântul cu r” (covid, vaccin, rapel). Grupul a fost creat în urmă cu mai bine de un an și are peste 250.000 de membri.

Marc Owen-Jones, un cercetător în domeniul dezinformării și profesor asociat la Universitatea Hamad Bin Khalifa din Qatar, a fost invitat să se alăture grupului.

„Erau oameni care scriau relatări despre rude care au murit la scurt timp după ce au făcut vaccinul Covid-19”, a spus el. „Dar, în loc să folosească cuvintele „Covid-19” sau „vaccin”, foloseau emoticoane cu morcovi.

Inițial am fost puțin confuz. Și apoi am înțeles – că era folosit ca o modalitate de a evita, sau aparent de a se sustrage, algoritmilor de detectare a știrilor false ai Facebook”.

Moderarea riscului

În 2021, datele de la Oficiul Național de Statistică au sugerat că exista un risc de unu la cinci milioane de a muri din cauza vaccinului Covid, comparativ cu un risc de 35.000 de decese la cinci milioane de a muri din cauza Covidului în sine, dacă nu era vaccinat.

Giganții tehnologici folosesc algoritmi pentru a căuta pe platformele lor conținuturi dăunătoare – dar aceștia sunt antrenați în principal pe cuvinte și texte, a scris Hannah Rose Kirk într-un blog pentru Oxford Internet Institute.

Dna Rose Kirk a făcut parte dintr-o echipă de cercetare care a creat un instrument numit HatemojiCheck: o listă de verificare pentru identificarea domeniilor în care sistemele de inteligență artificială nu gestionează foarte bine abuzurile bazate pe emoji.

„În ciuda faptului că au o înțelegere impresionantă a modului în care funcționează limbajul, modelele lingvistice AI au văzut foarte puține emoji”, a spus ea.

„Ele sunt antrenate pe un corpus de cărți, articole și site-uri web, chiar și pe întreaga Wikipedia în limba engleză, dar aceste texte prezintă rareori emoji.”

Platformele au fost deja criticate pentru că nu au reușit să blocheze sau să elimine emoji-urile cu maimuțe și banane atunci când au fost postate sub forma unui gest rasist pe conturile unor fotbaliști de culoare.

Facebook a declarat anul trecut că a eliminat peste 20 de milioane de conținuturi care conțineau informații eronate despre Covid-19 sau despre vaccin de la începutul pandemiei.