可解释的外挂检测

课题背景

近年来，随着人们对于高品质娱乐需求的不断增加，在线游戏市场持续繁荣，同时，游戏行业也遭受着外挂脚本的严重威胁，游戏外挂检测已成为游戏出版商最急需解决的问题之一。在大型角色扮演类游戏（MMORPG）中，游戏外挂指玩家使用自动的脚本程序进入系统内核，在无需休息的情况下持续执行艰难或乏味的任务，如批量挂机，自动任务，自动采集等。因此，游戏外挂很容易击败正常玩家，对游戏公平和经济系统造成极大的负面影响。

游戏行业在外挂检测上投入了巨量努力，通过利用AI技术，取得了很高的检测准确率提升。然而，由于AI模型的黑盒属性，为了避免误封正常玩家，游戏运营对AI模型预测结果的应用往往非常谨慎。因此，给外挂检测提供合理、易于人类理解的解释，对其实际应用至关重要。

目前，基于可解释性外挂检测的研究比较缺乏，相关方法主要以画像分析和特征重要性分析的方案为主，前者依赖大量的专家经验，耗时费力，且无法适应外挂的变化。后者由于缺乏客观统计指标的支撑，解释缺乏可靠性，也缺少直观的外挂筛选能力。给外挂检测生成解释仍是一个挑战。

问题定义

基于玩家历史数据（行为序列、画像等），准确检测出外挂玩家，并提供合理、直观、有说服力的解释，帮助游戏运营快速判断外挂并实行封禁。

图1：可解释的外挂检测

问题挑战

可解释的外挂检测中的挑战主要包括以下几点：

• 解释性AI领域尚不成熟，对于行为序列的解释效果不佳

• 解释性AI领域缺乏统一的评估标准

• 解释如何直观可视化呈现仍有待探索

• 生成的解释如何形成实锤外挂的模式是一个挑战

评价指标

可解释的外挂检测可以通过以下指标进行评估：

• 封禁准确率和召回率

• Post-hoc accuracy

• 人工评价

数据集描述

游戏数据集主要分为两个部分：

• 用户画像数据

字段	类型	描述
role_id	string	玩家id
level	int	玩家等级
role_class	int	职业
……

• 用户历史动作序列

字段	类型	描述
role_id	string	玩家id
action_id	int	动作id
objective_ids	string	动作对象id，多个对象id以逗号隔开
time_stamp	int	动作发生的时间戳

相关学术论文

Fuxi-UP团队已针对该问题提出了一种多视图的可解释外挂检测框架，相关工作已发表在GOG'2020(best paper)。

联系我们

有任何问题，请联系 [e-mail], [e-mail]