Instagram запускает систему борьбы с грубостью в комментариях

Компания рассказала в своем блоге, что уже несколько лет использует искусственный интеллект для отслеживания буллинга и вредоносного контента. Но с развитием сообщества, развиваются и технологии, а конечной целью Instagram является создание Искусственного Интеллекта, который будет способен распознать даже внутренний контекст оскорбительного комментария.

Компания рассказала в своем блоге, что уже несколько лет использует Искусственный Интеллект для отслеживания буллинга и вредоносного контента. Но с развитием сообщества, развиваются и технологии, а конечной целью Instagram является создание Искусственного Интеллекта, который будет способен распознать даже внутренний контекст оскорбительного комментария.

Instagram подчеркнул, что нововведения направлены не только на профилактику и предотвращение буллинга, но и на то, чтобы дать больше контроля жертвам грубого обращения.

Во-первых, при публикации оскорбительного комментария, пользователю будет предоставлена возможность обдумать свои слова и отменить высказывание. Система уточнит, действительно ли комментатор хочет запостить грубость, и даст время на отмену. При бездействии, комментарий будет опубликован без изменений.

Руководитель Instagram Адам Моссери отмечает, что в ранних тестах этой функции было обнаружено, что она побуждает некоторых людей переписать комментарий и поделиться чем-то менее вредоносным, потому что у человека появляется возможность подумать над своим действием.

Второй функцией будет возможность ограничить (Restrict) определенных пользователей, оставляющих обидные комментарии. Instagram понимает, что обнаружение и удаление оскорбительного контента очень важно, но также социальная сеть стремится наделить большей властью жертв буллинга. Как только Вы переведете пользователя в ограниченный режим (Restricted), его комментарии к Вашим постам будут видны только этому человеку, но Вы всё ещё сможете выбирать, какие комментарии этого пользователя будут видны всем. Так же ограниченный пользователь не сможет видеть онлайн Вы или нет, а также не будет получать уведомления о прочтении сообщений в Директе.

«Таким образом люди, которым пришлось столкнуться с грубым обращением, смогут контролировать ситуацию не прибегая к блокировке, отписке или жалобам на обидчика, что особенно важно, если Вам приходится взаимодействовать с ним в реальной жизни», - отмечает Моссери.