可解释的外挂检测
Last updated
Last updated
近年来，随着人们对于高品质娱乐需求的不断增加，在线游戏市场持续繁荣，同时，游戏行业也遭受着外挂脚本的严重威胁，游戏外挂检测已成为游戏出版商最急需解决的问题之一。在大型角色扮演类游戏（MMORPG）中，游戏外挂指玩家使用自动的脚本程序进入系统内核，在无需休息的情况下持续执行艰难或乏味的任务，如批量挂机，自动任务，自动采集等。因此，游戏外挂很容易击败正常玩家，对游戏公平和经济系统造成极大的负面影响。
游戏行业在外挂检测上投入了巨量努力，通过利用AI技术，取得了很高的检测准确率提升。然而，由于AI模型的黑盒属性，为了避免误封正常玩家，游戏运营对AI模型预测结果的应用往往非常谨慎。因此，给外挂检测提供合理、易于人类理解的解释，对其实际应用至关重要。
目前，基于可解释性外挂检测的研究比较缺乏，相关方法主要以画像分析和特征重要性分析的方案为主，前者依赖大量的专家经验，耗时费力，且无法适应外挂的变化。后者由于缺乏客观统计指标的支撑，解释缺乏可靠性，也缺少直观的外挂筛选能力。给外挂检测生成解释仍是一个挑战。
基于玩家历史数据（行为序列、画像等），准确检测出外挂玩家，并提供合理、直观、有说服力的解释，帮助游戏运营快速判断外挂并实行封禁。
可解释的外挂检测中的挑战主要包括以下几点：
解释性AI领域尚不成熟，对于行为序列的解释效果不佳
解释性AI领域缺乏统一的评估标准
解释如何直观可视化呈现仍有待探索
生成的解释如何形成实锤外挂的模式是一个挑战
可解释的外挂检测可以通过以下指标进行评估：
封禁准确率和召回率
Post-hoc accuracy
人工评价
游戏数据集主要分为两个部分：
用户画像数据
role_id
string
玩家id
level
int
玩家等级
role_class
int
职业
……
用户历史动作序列
role_id
string
玩家id
action_id
int
动作id
objective_ids
string
动作对象id，多个对象id以逗号隔开
time_stamp
int
动作发生的时间戳
Fuxi-UP团队已针对该问题提出了一种多视图的可解释外挂检测框架，相关工作已发表在GOG'2020(best paper)。
有任何问题，请联系 xiongyu1@corp.netease.com, wurunze1@corp.netease.com
