В Counter-Strike: Global Offensive уже несколько недель работает новый искусственный интеллект, созданный для борьбы с токсичностью в онлайновых играх. За первые шесть недель работы он забанил 20 тысяч игроков CS:GO, используя исключительно анализ сообщений в текстовом чате игры.
ИИ зовётся Minerva, его разработали специалисты FACEIT. В 2018 году эта платформа организовала CS: GO London Major вместе с Google Cloud и Jigsaw, технологическим инкубатором Google.
Систему запустили в конце августа, и за первые полтора месяца Minerva определила в качестве токсичных 7 миллионов сообщений, выдала 90 тысяч предупреждений и заблокировала 20 тысяч игроков.
Алгоритм работает так: если сообщение распознаётся как оскорбление, то его автору выдаётся предупреждение, а текст помечается как спам. В случае повторных нарушений можно «нарваться» на блокировку.
В результате работы Minerva количество токсичных сообщений сократилось на 20% в период с августа по сентябрь, а число уникальных игроков с неприемлемым поведением упало на 8%.
При этом разработчики утверждают, что будут улучшать Minerva до тех пор, пока система не научится обнаруживать и устранять все виды оскорбительного поведения в режиме реального времени. В ближайшие недели обещаны анонсы новых возможностей и платформ, где будет использоваться этот ИИ.
