"Вконтакте" начнет автоматически блокировать гомофобные высказывания

Социальная сеть запустила тест новой нейросети для борьбы с материалами и комментариями, которые оскорбляют людей или призывают аудиторию к агрессивным действиям.

"Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний", - говорится в пресс-релизе.

Новая программа ускорит время обработки пользовательских жалоб, а также поможет реже сталкиваться с разнообразными враждебными высказываниями (так называемый хейтспич).

Для усиления модерации появилась новая функция - "Враждебные высказывания". Найти ее можно, нажав на кнопку "Пожаловаться" у поста или комментария. Так материал попадет на рассмотрение к модераторам и поможет обучить нейросеть.

"Мы разделяем позицию наших пользователей и партнеров касательно языка вражды и прославления насилия. Модераторы "ВКонтакте" ежедневно обрабатывают огромный объем контента, в том числе с использованием искусственного интеллекта - большинство опасных материалов удаляются еще до того, как их кто-то увидит", - заявил Иван Корнеев, руководитель команды модерации "ВКонтакте".

Отмечается, что за полгода соцсеть удалила 520 тысяч оскорбительных материалов и заблокировала почти четыре тысячи профилей и групп.

Поделиться линком

Настоящий ресурс содержит материалы 18+