青年学者学术沙龙<基于层间剖析的神经网络模型输入实例验证方法>-j9登录网址

计算机软件新技术国家重点实验室

摘 要：

神经网络模型被广泛使用在现实生活的各个领域，例如图像处理、物体识别、自动驾驶等。然而，神经网络模型也存在其结构复杂性与不可解释性等特点。通常来说，对于给定训练完成的神经网络模型，现实生活中往往将其用于各式各样的场景并且得到好的结果。然而由于模型训练的特性，天然对于不同场景的输入存在适用或不适用的情况，若不区分适用性进行现实部署，将有可能造成神经网络模型效果异常。因此，神经网络模型对于输入适用性的自动验证至关重要。针对该问题，我们提出一种面向神经网络模型的基于层间剖析的输入实例验证方法，利用对神经网络模型中间层表示的高效分析，对于输入实例的有效性进行验证，从而尝试给出一种探索神经网络模型适用范围的方式。

徐经纬，博士，南京大学计算机科学与技术系助理研究员。目前主要关注带深度学习模块软件系统质量保障，深度学习相关应用和推荐系统。研究成果发表在一系列顶级学术会议上，如icse、fse、kdd、tkde、ijcai等。

时间：12月27日 13:45-14:15

地点：计算机科学技术楼111室