Поскольку модераторы Xbox Live не могут автоматически отслеживать все сообщения с оскорблениями и принижениями одних игроков на просторах сервиса другими, Microsoft в рамках борьбы с токсичностью разработала новую систему фильтрации. Сейчас ее могут протестировать участники программы Xbox Insider, но уже до конца осени она появится и у всех остальных пользователей Xbox One.
Новая система фильтрации предлагает игрокам четыре опции автомодерации.
- Если вы выберете «дружелюбный» уровень (он же автоматически будет устанавливаться на все детские аккаунты), то не увидите у себя в личке никаких оскорблений и резких слов. Система будет стараться максимально вычищать грубые фразы и отображать только сообщения без них.
- На «среднем» уровне вы будете видеть в адресованных вам сообщениях некоторые резкие фразы, особенно относящиеся к обсуждению игр, и «дружеские подколки», но не увидите прямых оскорблений — их система скроет.
- На уровне «для взрослых» в сообщениях будет отображаться практически всё, кроме «контента, направленного на причинение вреда человеку».
- Наконец, четвертая опция, «без фильтра», ничего не фильтрует — вы продолжаете общаться с другими пользователями Xbox Live как и раньше и видите все оскорбления, которые вам пишут.
Microsoft отмечает, что скрытые системой слова на среднем уровне и уровне «для взрослых» можно при желании увидеть, но автоматически при выборе опции они будут скрываться.
Для разных категорий пользователей разрешат устанавливать свои фильтры — допустим, для друзей поставить «без фильтра», а для незнакомцев — установить один из уровней автомодерации.
Со временем система научится фильтровать не только сообщения, но и все остальное потенциально для вас оскорбительное — фотографии в чужих профилях, описание профилей, сообщения в клубах, сторонние ссылки и так далее. Она также научится работать в голосовых чатах и сможет заглушать маты.
В рамках борьбы с токсичностью Microsoft задействовала искусственный интеллект — отдельно подчеркивается, что он направлен на определение контекста.
«Он должен разбирать каждую отдельную ситуацию, ведь экспрессивно выражаться об отлично проведенном матче — это одно дело, а сыпать оскорблениями в адрес оппонента — совсем другое», — указала Microsoft.
С токсичностью на просторах разных игр и сервисов сегодня сражаются самые разные крупные компании.
