模型可解释性应用Demo制作

课题背景

随着AI技术的发展，AI在日常生活中不断渗透，我们的社会运转得更加算法化，也更有效率。尽管AI有着前所未有的快速发展，AI系统应用的一个主要障碍就是缺少透明度。可解释AI就是这样一个快速发展的研究领域，旨在提升AI系统的透明度和可信任度。

功能描述

设计开发一个模型可解释应用Demo，该系统需满足下述几个功能点：

1. 对于表格数据，基于解释性算法给出特征重要性和规则进行解释，给出直观的可视化结果

2. 对于序列数据，基于解释性算法给出序列重要性和规则进行解释，给出直观的可视化结果

3. 对于图像数据，基于解释性算法给出像素重要性进行解释，给出直观的可视化结果

4. 对于表格数据，基于特征重要性做特征选择

问题挑战

该问题具有以下几个挑战：

1. 对于model-specific和model-agnostic两种情况如何分别应对

2. 如何评估解释，增加解释置信度

Demo评审

Demo评审有以下几个指标：

1. 功能完整性，完成功能描述所列举的功能

2. 功能创新性，创造性设计功能描述中列举的功能，或者设计了其他创造性的功能

3. 技术新颖性，所用技术新颖

4. 技术难度，开发功能和使用技术具有一定的难度

联系人

有任何问题，请联系 [e-mail]