fbpx

Cercetatorii Yahoo construiesc o unealta online de detectare a abuzurilor

Cercetatorii Yahoo construiesc o unealta online de detectare a abuzurilor

Trollingul online si bullying-ul cibernetic sunt o realitate nefericita a internetului, desi am vazut cum unele companii precum Twitter incearca in mod activ sa le elimine si am vazut de asemenea eforturi ale unor persoane pentru a indrepta un astfel de comportament. Acum se pare ca cercetatorii Yahoo isi arunca palaria in ring cu o unealta potential mai puternica de detectie a abuzurilor.

Cercetatorii de la Yahoo Labs au reusit sa creeze un algoritm online care este se pare unul dintre cele mai bune filtre automate de abuzuri care au fost create in timpurile recente.

CITESTE SI:  Ce celebritati au fost amendate din cauza ofertelor initiale de monede

Cele mai multe filtre automate functioneaza prin detectarea anumitor cuvinte cheie, fraze si expresii folosite in mod obisnuit care i-au facut pe utilizatori sa gaseasca modalitati creative pentru a injura, a jigni, a hartui online si a comite abuzuri online.

Cu toate acestea, cu creatia  companiei Yahoo, cercetatorii au aplicat invatarea-masina la un dataset de comentarii abuzive/ofensive care au fost marcate de editorii Yahoo.

CITESTE SI:  De ce nu e bine sa instalezi update-ul macOS Catalina inca

Acest lucru i-a permis algoritmului online creat de Yahoo sa proceseze cuvinte ca “vectori”, in loc sa trateze cuvintele ca fiind bune sau rele.

Ca rezultat, algoritmul online Yahoo a putut culege sirurile de cuvinte care sunt considerate ofensive, chiar daca cuvintele individuale in sine erau considerate inofensive.

Pana acum, echipa a avut destul de mult succes cu algoritmul lor online si a avut o acuratete de 90%. Daca va implementa sau nu Yahoo acest sistem, ramane de vazut, dar Alex Krasodomski-Jones, un cercetator al Centrului pentru Analiza a Social Media spune, “Daca ai 10 tweet-uri, un grup de oameni rareori vor fi de acord in ceea ce priveste care ar trebui sa fie considerate abuzive, asa ca iti imaginezi cat de greu va fi pentru un computer”.