Compania Facebook din Statele Unite s-a bazat pe AI pentru eforturile sale de moderare a continutului de ceva vreme, iar astazi compania din SUA a impartasit cel mai recent mod prin care machine learning contribuie la moderarea continutului.
Publicatia de tehnologie The Verge a raportat ca reteaua sociala Facebook foloseste acum AI pentru a prioritiza postarile intr-un sir, sir pe care moderatorii umani vor trebui sa-l verifice pentru moderarea continutului.
Inainte de implementarea noului sistem AI de moderare a continutului, sirul era in principal sortat cronologic in ordinea in care au fost raportate postarile. Acest lucru poate creste timpul de raspuns al companiei Facebook in cazurile mai importante, in timp ce moderatorii umani isi croiesc drum prin postarile anterioare.
Cu noul sistem AI, se vor utiliza cativa algoritmi de machine learning pentru a acorda prioritate continutului semnalat pe baza „viralitatii, severitatii si probabilitatii ca acesta sa contravina regulilor”.
Compania Facebook din Statele Unite a declarat anterior ca a actionat prin moderare impotriva a 9,6 milioane de postari in primul trimestru al anului 2020 – o crestere semnificativa raportat la cele 5,7 milioane de postari din trimestrul anterior.
Desi unele dintre aceste postari sunt suficiente pentru a duce la blocare sau la eliminarea automata, restul sunt introduse de sistemul AI intr-un sir pentru ca moderatorii umani ai companiei Facebook sa le poata modera.
Procesul de a determina prin moderare care postari sunt daunatoare si care nu poate duce la probleme de sanatate mintala, iar la inceputul acestui an Facebook a solutionat un proces cu aproximatv 11.000 de moderatori umani, compania platindu-le 52 de milioane de dolari.
De asemenea, compania Facebook s-a angajat sa-si actualizeze softul AI de moderare a continutului, dezactivand sunetul in mod implicit la unele clipuri video si afisand clipuri video in monocrom.