> For the complete documentation index, see [llms.txt](https://fuxi-up-research.gitbook.io/open-project/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://fuxi-up-research.gitbook.io/open-project/research_topics/explainable_cheating_detection.md).

# 可解释的外挂检测

## 课题背景

近年来，随着人们对于高品质娱乐需求的不断增加，在线游戏市场持续繁荣，同时，游戏行业也遭受着外挂脚本的严重威胁，游戏外挂检测已成为游戏出版商最急需解决的问题之一。在大型角色扮演类游戏（MMORPG）中，游戏外挂指玩家使用自动的脚本程序进入系统内核，在无需休息的情况下持续执行艰难或乏味的任务，如批量挂机，自动任务，自动采集等。因此，游戏外挂很容易击败正常玩家，对游戏公平和经济系统造成极大的负面影响。

游戏行业在外挂检测上投入了巨量努力，通过利用AI技术，取得了很高的检测准确率提升。然而，由于AI模型的黑盒属性，为了避免误封正常玩家，游戏运营对AI模型预测结果的应用往往非常谨慎。因此，给外挂检测提供合理、易于人类理解的解释，对其实际应用至关重要。

目前，基于可解释性外挂检测的研究比较缺乏，相关方法主要以画像分析和特征重要性分析的方案为主，前者依赖大量的专家经验，耗时费力，且无法适应外挂的变化。后者由于缺乏客观统计指标的支撑，解释缺乏可靠性，也缺少直观的外挂筛选能力。给外挂检测生成解释仍是一个挑战。

## 问题定义

基于玩家历史数据（行为序列、画像等），准确检测出外挂玩家，并提供合理、直观、有说服力的解释，帮助游戏运营快速判断外挂并实行封禁。

![图1：可解释的外挂检测](https://noterminus.gitee.io/image_bed/images/xai.png)

## 问题挑战

可解释的外挂检测中的挑战主要包括以下几点：

* 解释性AI领域尚不成熟，对于行为序列的解释效果不佳
* 解释性AI领域缺乏统一的评估标准
* 解释如何直观可视化呈现仍有待探索
* 生成的解释如何形成实锤外挂的模式是一个挑战

## 评价指标

可解释的外挂检测可以通过以下指标进行评估：

* 封禁准确率和召回率
* Post-hoc accuracy
* 人工评价

## 数据集描述

游戏数据集主要分为两个部分：

* 用户画像数据

| 字段          | 类型     | 描述   |
| ----------- | ------ | ---- |
| role\_id    | string | 玩家id |
| level       | int    | 玩家等级 |
| role\_class | int    | 职业   |
| ……          |        |      |

* 用户历史动作序列

| 字段             | 类型     | 描述                 |
| -------------- | ------ | ------------------ |
| role\_id       | string | 玩家id               |
| action\_id     | int    | 动作id               |
| objective\_ids | string | 动作对象id，多个对象id以逗号隔开 |
| time\_stamp    | int    | 动作发生的时间戳           |

## 相关学术论文

Fuxi-UP团队已针对该问题提出了一种多视图的可解释外挂检测框架，相关工作已发表在[GOG'2020(best paper)](https://ieee-cog.org/2020/papers/paper_57.pdf)。

## 联系我们

有任何问题，请联系 <xiongyu1@corp.netease.com>, <wurunze1@corp.netease.com>