Нейросеть научат находить «разные категории оскорблений и угроз» во «ВКонтакте»

«ВКонтакте» начала обучать нейросеть находить «враждебные высказывания», сообщается в блоге соцсети.

«Новая технология», как ее называют в Центре безопасности ВК, «призвана оградить пользователей от разжигающего ненависть контента»; ускорить автоматическую блокировку таких материалов и «повысить эффективность модерации».

Нейросеть должна научиться «определять самые разные категории оскорблений и угроз», поясняет блог ВК.

Это в том числе «проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков», оскорбления из-за религии, возраста, внешности или заболеваний.

Чтобы сообщить о материале, где, по мнению пользователя «ВКонтакте», есть такие оскорбления, нужно нажать на кнопку «Пожаловаться» и выбрать из предлагаемых категорий жалоб «Враждебные высказывания».

После этого пост изучат модераторы. Жалобы на «враждебные высказывания» позволят собрать датасет для обучения нейросети.

По данным самой «ВКонтакте», за первую половину 2020 года из соцсети удалили «520 тысяч единиц контента по теме разжигания вражды и ненависти». За тот же период заблокировали «1340 профилей и 2470 сообществ, распространяющих враждебные высказывания».

В 2017 году Facebook объявила, что созданные компанией алгоритмы научились распознавать и удалять из соцсети «террористический контент», связанный с ИГ и «Аль-Каедой». На тот момент алгоритм не умел находить посты, связанные с какими-либо другими террористическими группировками.