Microsoft придумала новый способ борьбы с токсичностью игроков

Поскольку модераторы Xbox Live не могут автоматически отслеживать все сообщения с оскорблениями и принижениями одних игроков на просторах сервиса другими, Microsoft в рамках борьбы с токсичностью разработала новую систему фильтрации. Сейчас ее могут протестировать участники программы Xbox Insider, но уже до конца осени она появится и у всех остальных пользователей Xbox One.

Новая система фильтрации предлагает игрокам четыре опции автомодерации.

• Если вы выберете "дружелюбный" уровень (он же автоматически будет устанавливаться на все детские аккаунты), то не увидите у себя в личке никаких оскорблений и резких слов. Система будет стараться максимально вычищать грубые фразы и отображать только сообщения без них.

• На "среднем" уровне вы будете видеть в адресованных вам сообщениях некоторые резкие фразы, особенно относящиеся к обсуждению игр, и "дружеские подколки", но не увидите прямых оскорблений - их система скроет.

• На уровне "для взрослых" в сообщениях будет отображаться практически всё, кроме "контента, направленного на причинение вреда человеку".

• Наконец, четвертая опция, "без фильтра", ничего не фильтрует - вы продолжаете общаться с другими пользователями Xbox Live как и раньше и видите все оскорбления, которые вам пишут.

Microsoft отмечает, что скрытые системой слова на среднем уровне и уровне "для взрослых" можно при желании увидеть, но автоматически при выборе опции они будут скрываться.

Для разных категорий пользователей разрешат устанавливать свои фильтры - допустим, для друзей поставить "без фильтра", а для незнакомцев - установить один из уровней автомодерации.

Со временем система научится фильтровать не только сообщения, но и все остальное потенциально для вас оскорбительное - фотографии в чужих профилях, описание профилей, сообщения в клубах, сторонние ссылки и так далее. Она также научится работать в голосовых чатах и сможет заглушать маты.

В рамках борьбы с токсичностью Microsoft задействовала искусственный интеллект - отдельно подчеркивается, что он направлен на определение контекста.

"Он должен разбирать каждую отдельную ситуацию, ведь экспрессивно выражаться об отлично проведенном матче - это одно дело, а сыпать оскорблениями в адрес оппонента - совсем другое", - указала Microsoft.

С токсичностью на просторах разных игр и сервисов сегодня сражаются самые разные крупные компании.

Читайте также: Гений, черти и Сайтама: На ИгроМире были игры, и мы о них рассказываем.

Добавляйтесь в наш Telegram-канал по ссылке или ищите его вручную в поиске по названию gmradost. Там мы публикуем в том числе и то, что не попадает в новостную ленту.