Новый алгоритм позволит автоматически выявлять и блокировать интернет-троллей
Трое ученых из США, работающих в Корнельском и Стэнфордском университетах создали новый компьютерный алгоритм, при помощи которого можно быстро выявить антиобщественное поведение в интернет-разделах, имеющих комментарии. В научном исследовании описывается весь процесс организации подобной системы, а кроме того и плана по реализации эффективности исполнения новой разработки.
Во всемирной сети лиц, которые занимаются розжигом антисоциальных дискуссий в комментариях, под контентом сети называют «троллями». Эти лица постоянной основе нарушают этические нормы сетевой коммуникации и являются большим раздражителем для подавляющего числа пользователей интернет.
Большинство порталов ведут сотрудничество с исследователями для выявления и блокирования прежде, чем они успеют нанести существенный урон. Главы важнейших порталов давно отмечали, что большое количество пользователей, столкнувшихся с действиями интернет-троллей, больше не заходят на те сайты, где их могут подвергнуть унижениям, вовлечь в спор или оскорбить их честь и достоинство.
Автоматизировать противостояние троллям Джастин Чен Кристиан Данеску-Никулеску-Мизил и Джур Лесковец объединили усилия в разработке системы, которая находит поведение троллей по типовым шагам (анализ проведен на порталах cnn.com, ign.com и breibart.com). Исследователи провели изучение не менее 10 тысяч комментариев для своих целей: они сравнили действия пользователей попавших под «бан» и тех лиц, которых никогда не блокировали.
Исследователи обнаружили ряд закономерностей, которые были отмечены в действиях попавших под «бан» пользователей. В первую очередь, ученые отметили, что мысли подобных лиц отличались низкой грамотностью и отсутствием ясных мыслей, нежели комментарии обычных пользователей. В то же самое время их грамотность уменьшалась пропорционально количеству написанных ими комментариев.
Удалось также выяснить, что пользователи достаточно долго терпели действия интернет-троллей, однако когда терпение пользователей заканчивалось, они мгновенно подпадали под бан.
Также исследователи поделились, что найти заблокированных юзеров оказалось достаточно-таки просто. Американские исследователи разработали специальный алгоритм, действующий на базе так называемого индекса читаемости в автоматическом режиме. С подобным видом алгоритма исследовательская группа смогла обнаружить пользователя, которого «забанят» в будущем с вероятностью в 80%, прочитав при этом лишь 10 комментариев.
Даже не смотря на тот факт, что алгоритм подобного качества не выдает 100-ной точности на сегодняшний день, создатели системы выражают надежду, что подобный алгоритм позволит на порядок упростить работы администраторов и модераторов ресурсов в сети Интернет.
