高校合作申请流程
模型可解释性应用Demo制作

课题背景

随着AI技术的发展,AI在日常生活中不断渗透,我们的社会运转得更加算法化,也更有效率。尽管AI有着前所未有的快速发展,AI系统应用的一个主要障碍就是缺少透明度。可解释AI就是这样一个快速发展的研究领域,旨在提升AI系统的透明度和可信任度。

功能描述

设计开发一个模型可解释应用Demo,该系统需满足下述几个功能点:
  1. 1.
    对于表格数据,基于解释性算法给出特征重要性和规则进行解释,给出直观的可视化结果
  2. 2.
    对于序列数据,基于解释性算法给出序列重要性和规则进行解释,给出直观的可视化结果
  3. 3.
    对于图像数据,基于解释性算法给出像素重要性进行解释,给出直观的可视化结果
  4. 4.
    对于表格数据,基于特征重要性做特征选择

问题挑战

该问题具有以下几个挑战:
  1. 1.
    对于model-specific和model-agnostic两种情况如何分别应对
  2. 2.
    如何评估解释,增加解释置信度

Demo评审

Demo评审有以下几个指标:
  1. 1.
    功能完整性,完成功能描述所列举的功能
  2. 2.
    功能创新性,创造性设计功能描述中列举的功能,或者设计了其他创造性的功能
  3. 3.
    技术新颖性,所用技术新颖
  4. 4.
    技术难度,开发功能和使用技术具有一定的难度

联系人

有任何问题,请联系 [email protected]