Conform unui nou studiu realizat de echipe de la University College London si Universitatea Kent, s-a descoperit ca algoritmii platformelor de socializare promoveaza in mod activ continut extrem de misogin catre utilizatorii tineri, contribuind la normalizarea unor atitudini daunatoare fata de femei.
Studiul a monitorizat recomandarile algoritmului TikTok pe o perioada de 5 zile si a descoperit o crestere ingrijoratoare de 4 ori a sugestiilor de continut misogin. Acest fenomen indica deficiente majore in designul sistemelor actuale de recomandare ale platformelor de socializare, care par sa amplifice in mod activ astfel de continut polarizant.
Conform expertilor, este probabil ca modele similare sa existe si pe alte retele sociale majore, nu doar pe TikTok. Astfel, ei pledeaza pentru reglementari mai stricte din partea autoritatilor in vederea protejarii minorilor.
Detalii cheie ale studiului
- Tendinta alarmanta a fost observata in special in randul utilizatorilor adolescenti ai platformei TikTok
- Continutul promovat includea mesaje centrate pe furie, ura si victimizare impotriva femeilor
- Algoritmii social media joaca un rol esential in prezentarea acestui tip de continut ca entertainment
- Ideologiile toxice care erau anterior limitate la anumite zone online au inceput sa penetreze si mediile scolare
- Sunt necesare reglementari mai stricte din partea autoritatilor pentru a proteja minorii
“Este ingrijorator sa vedem ca astfel de idei daunatoare fata de femei sunt amplificate in mod activ de algoritmii platformelor de socializare,” a declarat Emily Jones, cercetatoare in cadrul studiului. “Aceste atitudini nu ar trebui sa fie normalize in randul tinerilor.”
Masuri necesare pentru combaterea fenomenului
Pentru a preveni raspandirea in continuare a unor astfel de mesaje toxice, sunt recomandate urmatoarele abordari:
- Reglementari mai stricte din partea autoritatilor:
- consolidarea legislatiei actuale privind siguranta online
- introducerea unor standarde minime de etica pentru algoritmi
- Reproiectarea algoritmilor social media:
- prioritizarea calitatii continutului in defavoarea angajamentului
- implementarea unor filtre mai eficiente impotriva continutului daunator
- Educatie media pentru utilizatori:
- promovarea unei „diete digitale echilibrate” in randul tinerilor
- constientizarea efectelor negative ale supraexpunerii la astfel de continut
“Este responsabilitatea platformelor de social media sa isi redeseneze sistemele astfel incat sa nu amplifice in mod activ continutul polarizant sau daunator,” a adaugat Jones. “Iar autoritatile trebuie sa intervina acolo unde companiile esueaza in a-si proteja utilizatorii.”
Perspective de viitor
Cu noile reglementari privind siguranta online preconizate sa intre in vigoare in cursul acestui an, expertii spera ca vor fi implementate garantii suplimentare pentru protejarea minorilor impotriva continutului daunator.
De asemenea, platformele majore de socializare, inclusiv TikTok, YouTube si Instagram, au anuntat investitii semnificative in imbunatatirea sistemelor lor de moderare. Cu toate acestea, criticii avertizeaza ca astfel de solutii pot fi insuficiente atata vreme cat problemele fundamentale de design ale algoritmilor nu sunt abordate.
“Remarcam eforturile recente din partea companiilor, insa este nevoie de mult mai mult pentru a proteja utilizatorii tineri impotriva normalizarii unor idei periculoase precum misoginismul sau rasismul,” a conchis Jones. “Speram ca acest studiu sa traga un semnal de alarma si sa determine o reforma reala.”