Социалната мрежа Twitter разработи нов machine learning алгоритъм, който с 90% успеваемост успява да разграничи нормалните туитове от тези с негативно послание, приспадащи към графата на кибертормоза.
За целта са построени роботи, които използвайки различни механизми успяват да съберат информация, засягаща туитове на потребителите, техните профили, кого следват, кой ги следва и др. Използвайки обемът от насъбралата се информация, алгоритъмът успява да създаде модел на поведение сред потребителите, способни да публикуват зловредни коментари и туитове.
Чрез процесиране на езика, базирайки се на различни думи и изречения, се разграничават две категории на поведение – кибертормоз и киберагресия. Потребители с расистки, обидни и заплашителни коментари биват определени като проблемни и могат да бъдат заличени от Twitter платформата.
Разработчиците на алгоритъма са от нюйоркския университет Бингхамтън. Техният представител, Джереми Блекбърн, споделя на официалната страница на учебното заведение, че основна причина за създаването на иновацията е, спокойствието в хората. Все пак, Блекбърн не отрича, че тяхното решение на проблема не го заличава напълно. Истината е, казва той, че дори и някой потребител да бъде изтрит от Twitter, поради извършен кибертормоз, то този човек си остава насилник и изтриването на акаунта му не би го променило. Също така, потребителят жертва вече ще е видял зловредния туит – няма как да го unseen-не.
Остава въпросът, изтриването на Twitter акаунтa на насилника не би ли го озлобило повече? Такъв човек лесно ще намери платформа за изява. Припомняме, че по-рано през годината започна да се обсъжда кибертормозът в социалните мрежи и в Instagram, в частност, след като момиче се самоуби след консистентно получаване на обидни коментари. Певицата и актриса Селена Гомез също сподели своя опит с изпадане в депресия след злобни коментари относно килограмите ѝ.
Като отговор, от Instagram също разработиха алгоритъм, който да селектира обидните коментари, като преди публикуването им, платформата задава въпрос на потребителя – “сигурни ли сте, че искате да публикувате това”. Но дори и тази опция не заличава наистина кибертормоза.
A research team featuring @binghamtonu #WatsonSchool computer scientist Jeremy Blackburn analyzed the behavioral patterns exhibited by abusive #Twitter users.#Binghamton #trolls https://t.co/F3bv9NgYZ3
— Binghamton University Watson School (@bing_watson) September 17, 2019
