Вконтакте тестирует искусственный интеллект для борьбы враждебными комментариями

Самая популярная в России социальная сеть «ВКонтакте» разрабатывает нейросеть для борьбы с враждебными комментариями.

Как сообщает пресс-центр информационной компании, задачей новой технологии является отслеживание проявлений враждебности, нетерпимости, ксенофобии, расизма, оскорблений и т.д. Искусственный интеллект будет защищать пользователей от хейтеров и их агрессивного поведения.

Как известно, сегодня нейросеть Вконтакте проводит глубокий анализ каждого поста, отслеживая время его просмотра, количество лайков и комментариев. Чем больше активность и вовлеченность пользователей, тем больше происходит ранжирование сообщения, обеспечивая ему больший охват и количество показов. В Сети даже появились компании, которые за определенную плату готовы сделать накрутку комментариев к постам. Например, этим занимается сервис PRtut здесь: https://prtut.ru/nakrutka-kommentariev-vk-realnyh/

Но хотя количество комментариев увеличивает охват аудитории, но при этом не все комментарии являются позитивными. Как заявляют популярные блоггеры, им бывает очень трудно переносить хейтерские атаки, которые разрушительно влияют на личность, вводя в депрессию и даже доводя до самоубийства.

ВКонтакте приглашает к участию в борьбе с хейтерами

В скором времени производители контента могут поучаствовать в обучении искусственного интеллекта на определение хейтерских комментариев. Для этого разработчики создали специальную категорию жалоб — «Враждебные высказывания». Хотя по началу модерированием будут заниматься живые модераторы, но это серьезно поможет в развитии технологии.

Мы разделяем позицию наших пользователей и партнёров касательно языка вражды и прославления насилия. Если же вы заметили оскорбительную публикацию, пожалуйтесь на неё. С проявлениями нетерпимости эффективнее бороться вместе — и мы призываем пользователей присоединяться к нам в этой борьбеИван Корнеев, руководитель команды модерации «ВКонтакте»

Согласно информации центра безопасности «ВКонтакте», правила платформы запрещают:

  • Прямые угрозы здоровью и жизни;
  • Призывы к суициду;
  • Враждебные высказывания, поощряющие насилие и нападки на человека (или группу людей) с целью унижения их достоинства;
  • Призывы к сегрегации и подстрекательство к насилию;
  • Оправдание насилия, дискриминации и сегрегации на основе религиозных убеждений, этнической или сексуальной принадлежности и др.

Подтверждая необходимость и серьезность своей новой разработки, на днях Вконтакте поделились статистикой блокировок за враждебное поведение пользовательской аудитории. За полгода 2020 года социальная сеть заблокировала более 520 000 единиц контента, 2400 сообществ и 1340 учётных записей.

Поделитесь с друзьями:

ОСТАВЬТЕ ОТВЕТ

Please enter your comment!
Please enter your name here