Нейросеть будет бороться с ненавистью Вконтакте

Отечественная социальная сеть разрабатывает новую технологию искусственного интеллекта, которая будет автоматически находить публикации, провоцирующие аудиторию площадки на агрессию и раздражение.

Отечественная социальная сеть разрабатывает новую технологию искусственного интеллекта, которая будет автоматически находить публикации, провоцирующие аудиторию площадки на агрессию и раздражение. Нейросеть поможет уменьшить время реагирования на жалобы пользователей и очистить платформу от враждебных высказываний.

Специально для обучения ИИ Вконтакте добавили новую категорию жалоб: «Враждебное высказывание», выбрав которую пользователь отправляет публикацию на рассмотрение модераторам, собирающим своеобразную базу данных для создания и обучения будущих нейросетей. Уже сегодня искусственный интеллект ВК умеет определять ксенофобию, сексизм, расизм, дискриминацию по возрасту, полу, религии и внешности.

Иван Корнеев – руководитель команды модерации Вконтакте – отметил, что платформа полностью поддерживает позицию коллег касательно хетспича и онлайн буллинга и стремится создать для своих пользователей максимально безопасную и дружелюбную экосистему.