分论坛 > 南京 > 活动预告
技术论坛 预告 | CCF YOCSEF南京 | 知其然,知其所以然-深度学习可解释性有何解决之道?
2020-09-24 阅读量:1378 小字
中国计算机学会青年计算机科技论坛


CCF YOCSEF南京
【技术论坛】
知其然,知其所以然
深度学习可解释性有何解决之道?



背景:


  深度学习在实际应用场景中取得了巨大成功,但是无法给出决策过程的明确解释,也一直被诟病黑箱模型。现实场景如医疗、教育、政府决策中,人们不仅关注于执行任务的准确和效率,更希望理解其决策的原因和行动。可解释性人工智能(Explainable AI, XAI)旨在建立用户和模型之间的信任关系,提高模型的可解释性和透明性。目前,中国国务院在《新一代人工智能规划》中提出了实现具备高可解释性、强泛化能力的人工智能目标,可解释性人工智能在学术界和工业界引起了广泛关注。本次技术研讨会将围绕可解释性深度学习技术展开探讨,促进国内同行在相关领域的交流和理解。将讨论如下议题:
1. 如何严格定义模型可解释性?如何评价解释结果的可靠性?
2. 深度学习的性能和可解释性如何平衡?
3. 提升深度学习可解释性有哪些研究途径?最大的挑战是什么?
4. 深度学习可解释未来的发展方向是什么?应用场景有哪些?


主办单位:


中国计算机学会(CCF)


承办单位:


南京理工大学计算机科学与工程学院
CCF YOCSEF南京学术委员会


支持单位:


南京贤至再灵智能科技有限公司
南京汉德数字孪生技术研究院
中国图象图形学报


时间:


2020年9月26日(星期六)13:30-17:30


地点:


南京市栖霞区纬地路9号
南大科学园孵化基地3号楼12层1201室


论坛议程:

13:30-13:45
签到
13:45-13:50嘉宾和论坛背景介绍
13:50-14:00

致欢迎辞:

肖亮 CCF南京副主席

14:00-14:25
报告嘉宾:

报告题目:

神经-符号系统的一些探索

14:25-14:50
报告嘉宾:张拳石

报告题目:

Deep Learning: Interpretability, Capacity, and Evaluation

14:50-15:15
报告嘉宾:潘世瑞

报告题目:

图结构学习

15:15-15:40
报告嘉宾:刘威威

报告题目:

On the Optimality of Classifier Chain for Multi-label Classification

15:40-15:50
茶歇
15:50-17:20

技术思辨环节

嘉宾:

刘威威(武汉大学)

潘世瑞(蒙纳士大学)

俞扬(南京大学)

张拳石(上海交通大学)

王崇骏(南京大学)

潘金山(南京理工大学)

魏秀参(南京理工大学)

夏彬(南京邮电大学)

17:20-17:30
论坛总结


引导嘉宾:

俞扬,博士,南京大学教授,国家万人计划青年拔尖人才。主要研究领域为机器学习、强化学习。获得4项国际论文奖励和2项国际算法竞赛冠军,入选2018年IEEE Intelligent Systems杂志评选的“国际人工智能10大新星”,获2018亚太数据挖掘"青年成就奖”,受邀在IJCAI’18作关于强化学习的"青年亮点"报告。

报告题目:神经-符号系统的一些探索

摘要:人工智能从上世纪六十年代至今,前半程主要关注符号系统,其过程多符合人类高层认知,易于理解;后半程则主要关注学习系统,以神经网络为代表的模型往往难以解释。这两类系统天生不易兼容,难以协力。报告将汇报我们在神经网络与符号系统的转换和联通方面的一些探索。


张拳石,上海交通大学约翰霍普克罗夫特计算机科学中心长聘教轨副教授。他于2014年获得日本东京大学博士学位,于2014-2018年在加州大学洛杉矶分校(UCLA)从事博士后研究,主要研究方向包括机器学习和计算机视觉。其研究工作主要发表在计算机视觉、人工智能、机器学习等不同领域的顶级期刊和会议上(包括IEEE T-PAMI、ICML、ICLR、CVPR、ICCV、AAAI、KDD、ICRA等)。近年来,张拳石在神经网络可解释性方向取得了多项具有国际影响力的创新性成果。张拳石被“微软学术搜索”列为可解释性方向上国际排名第六的学者(关键词“interpretable”时间2017-2019)。张拳石承担了CCF-A类会议IJCAI 2020的可解释性方向的Tutorial,并先后担任了AAAI和CVPR大会可解释性方向的分论坛主席。

报告题目:Deep Learning: Interpretability, Capacity, and Evaluation

摘要:深度神经网络(DNN)掀起了AI的研究热潮,但DNN本身被视为黑盒,其内部的知识表征不透明。在本次演讲中,嘉宾将介绍深度学习可解释性研究中的几大核心问题点,包括:1. DNN表征与图模型的深度耦合与解释;2.学习具有可解释的中层特征的神经网络;3. 在数学层面解释神经网络的表达能力;4. 对解释结果的量化评估。


潘世瑞,于悉尼科技大学获得博士学位,现任澳大利亚蒙纳士大学助理教授。发表高水平文章80余篇,包括TNNLS, TKDE, TCYB, KDD, WWW, CVPR, ICDE, AAAI, IJCAI 等。长期担任NeurIPS, ICLR, KDD, AAAI, IJCAI,TPAMI, TKDE 等程序委员会成员以及期刊审稿人。谷歌学术引用3000余次,H指数26。主要研究方向为数据挖掘及机器学习,侧重于图数据学习与分析。其图神经网络综述发表于2020年,引用高达700余次。

报告题目:图结构学习

摘要:图神经网络已经被广泛用于图分类,聚类,链接预测等图分析任务中。学习图神经网络通常需要较为丰富的图结构先验知识,但很多场景下图结构信息不能直接获取。本次报告主要汇报我们最近图神经网络的一些研究进展。我们试图回答一个问题:如果图结构先验知识缺失,如何学习图神经网络?我们的答案是图结构学习。


刘威威,武汉大学计算机学院,教授、博导、担任院长助理。主要研究方向为人工智能、机器学习,包括多标签/多类学习、超高维特征选择、超高维最近邻分类、大规模聚类研究,其科研成果得到了国内外专家的广泛认可,相关论文被国际人工智能和机器学习旗舰性的学术会议和期刊收录,如Journal of Machine Learning Research(JMLR),IEEE Transactions on Pattern Analysis and Machine Intelligence(TPAMI),Advances in Neural Information Processing Systems(NeurIPS/NIPS),The International Conference on Machine Learning (ICML)等。2018年,获批第十五批“国家千人计划青年项目”。入选美国电气与电子工程师协会IEEE Senior Member。曾获Pattern Recognition Journal杰出审稿人荣誉奖励。担任神经网络顶级期刊TNNLS主要客座编辑(Leading Guest Editor)。担任人工智能顶级学术会议AAAI/IJCAI 2020的Senior Program Committee,以及机器学习顶级学术会议ICLR 2020、2021的Area Chair。

报告题目:On the Optimality of Classifier Chain for Multi-label Classification

摘要:To capture the interdependencies between labels in multi-label classification problems, classifier chain (CC) tries to take the multiple labels of each instance into account under a deterministic high-order Markov Chain model. Since its performance is sensitive to the choice of label order, the key issue is how to determine the optimal label order for CC. In this work, we first generalize the CC model over a random label order. Then, we present a theoretical analysis of the generalization error for the proposed generalized model. Based on our results, we propose a dynamic programming based classifier chain (CC-DP) algorithm to search the globally optimal label order for CC and a greedy classifier chain (CC-Greedy) algorithm to find a locally optimal CC. Comprehensive experiments on a number of real-world multi-label data sets from various domains demonstrate that our proposed CC-DP algorithm outperforms state-of-the-art approaches and the CC-Greedy algorithm achieves comparable prediction performance with CC-DP.



特邀嘉宾:

王崇骏,男,博士、教授、博导,任职于南京大学计算机科学与技术系及南京大学软件新技术国家重点实验室,兼任南京大学计算机应用研究所副所长、南京大学中德HPI研究院副院长。研究兴趣是自主智能与群体智能、复杂网络分析、大数据分析及智能系统等,近五年发表论文60余篇、出版专著2部。截至2019年底,主持和参与包括国家重点研发项目、973、发改委4G专项、教育部重点基金、工信部产业化基金、国家自然科学基金、国家社会科学基金、省自然科学基金、支撑计划、重点研发项目在内的国家及省部级基金与企事业资助项目50余项。在教育医疗类惠民行业、优政兴业类政府领域、互联网新经济领域有30余项科研成果获得产品化和商品化推广。


潘金山,南京理工大学计算机学院教授。主要从事图像去模糊、图像复原等相关底层视觉问题的研究。在CVPR/ICCV/ECCV等国际会议以及IEEE TPAMI、IJCV等重要国际期刊上发表论文40余篇。研究工作获得国家自然科学基金优秀青年科学基金资助。获得了中国人工智能学会优秀博士学位论文奖以及辽宁省优秀博士学位论文奖。


魏秀参,博士,南京理工大学计算机科学与工程学院教授,南京大学学生创业导师,澳大利亚阿德莱德大学访问学者,曾任旷视南京研究院创始院长。主要研究领域为计算机视觉和机器学习,在相关领域国际顶级期刊和会议发表论文三十余篇,Google Scholar Citations 1200余次,并获得iWildCam 2020、iNaturalist 2019等计算机视觉领域国际权威赛事共4项世界冠军。分别在国际重要会议PRICAI 2018和ICME 2019组织题为“Fine-Grained Image Analysis”的短课程。著有《解析深度学习–卷积神经网络原理与视觉实践》一书。曾获南京经开区中青年优秀人才、南京理工大学青年拔尖人才、CVPR 2017最佳审稿人、南京大学博士生校长特别奖学金等荣誉,担任WebFG 2020 Workshop程序委员会主席,及ICCV、CVPR、ECCV、NeurIPS、IJCAI、AAAI等国际顶级会议程序委员会委员。


夏彬,男,博士,讲师,硕士生导师,江苏省人工智能学会数据挖掘与应用专委会委员,CCF YOCSEF南京AC学术秘书。毕业于南京理工大学,获工学博士学位。2014-2016年在Florida International University的School of Computing and Information Sciences访问,并担任研究助理。目前任职于南京邮电大学计算机学院、软件学院、网络空间安全学院,近年来在TSC、DMKD、ESWA、KBS、KAIS、TNB等多个知名SCI/EI期刊以及KDD、PAKDD、IJCNN、WISE、SEKE、ISKE、ICSOC、BigDataService、SciSec等多个重要国际会议上发表学术论文20余篇。现作为项目负责人主持包括国家自然科学基金青年项目、江苏省高校自然科学研究项目面上项目、南京邮电大学引进人才科研启动基金等多个科研项目,参与国家重点研发计划重大专项、国家自然科学基金面上项目、华为创新研究计划等课题多项,承担TKDE、KAIS等多个知名期刊和国际会议的审稿人。


执行主席:

沈肖波,博士,南京理工大学教授。现任CCF YOCSEF南京AC委员,江苏省人工智能学会模式识别专委会副秘书长,CCF人工智能与模式识别专委会通讯委员。主要研究兴趣为多视图学习、多标记学习、哈希技术、网络结构嵌入的理论与算法研究。在国际期刊或会议发表30篇左右论文,包括TNNLSTIPTCYBAAAIIJCAIACM MM等。目前担任多个国际期刊的审稿人和会议的程序委员会,包括TPAMITNNLSTIPTCYBNIPSICMLCVPRICCVAAAIIJCAI等。担任TNNLS的客座编委,共同参与组织ACML 2018以及IJCAI 2019“Multi-output Learning”workshop


唐斌,博士,河海大学研究员。现任CCF YOCSEF南京AC委员。目前主要研究领域包括边缘计算、分布式计算、分布式机器学习等。近5年来,先后主持国家自然科学基金重点项目分课题/面上项目/青年基金项目各1项、江苏省自然科学基金优秀青年基金/青年基金各1项、国家电网科技计划项目2项。在包括IEEE/ACM TPDSTNETINFOCOMISITICDCS等在内的国内外重要学术刊物及会议发表论文30余篇,其中一篇TPDS论文被遴选为Spotlight Paper。作为主要完成人获得江苏省科学技术奖一等奖两项、国家电网有限公司科学技术进步奖一等奖一项。




会务联系:

        沈肖波    xbshen@njust.edu.cn


在线参与方式:

Screen Shot 2020-09-24 at 16.22.45


微信群直播
Bilibili直播
知网直播


热门动态
2024-03-17
2024年3月16日上午,由中国计算机学会(CCF)主办的青年计算机科技...
2023-12-19
感恩携手,共创未来——YOCSEF保定举办5周年特别活动 2023年12月...
2023-05-05
AI为科学提供了强有力的工具和方法,帮助领域学者发现新的知识、...
2023-05-05
AI为科学提供了强有力的工具和方法,帮助领域学者发现新的知识、...
2023-03-24
2023年3月18日,CCF YOCSEF成都在四川省成都市五岳宫街28号成都...
2023-03-24
2023年3月18日,CCF YOCSEF成都在四川省成都市五岳宫街28号成都...
2023-03-04
2023年3月3日11:00-14:00,CCF YOCSEF成都分论坛开展走进系列特...
2023-03-04
2023年3月3日11:00-14:00,CCF YOCSEF成都分论坛开展走进系列特...
2023-03-02
近十年,我国交通运输事业取得了历史性成就,发生了历史性变革,...
2023-03-02
近十年,我国交通运输事业取得了历史性成就,发生了历史性变革,...
2023-02-27
2023年2月24日下午,CCF YOCSEF 成都的现任和候任AC委员们、老AC...
2023-02-27
2023年2月24日下午,CCF YOCSEF 成都的现任和候任AC委员们、老AC...
2023-01-12
2023年1月7日-8日,CCF YOCSEF成都在四川省峨眉山市峨眉山...
2023-01-12
2023年1月7日-8日,CCF YOCSEF成都在四川省峨眉山市峨眉山...
2023-01-01
时光荏苒,举步维艰的2022年已远去,欣欣向荣的2023正向我们走来。2022年,在YOCSEF总部、各兄弟分论坛的大力支持下、在各位AC委员、通讯AC委员和委员的共同努力下,CCF YOCSEF太原紧密围绕学术与产业前沿,聚焦科学与社会热点,举办了一系列前瞻性、引领性的观点论坛、技术论坛与CLUB活动,主题涵盖了人工智能算力基础设施、人工智能数据标注、经济转型发展、非物质文化遗产保护等,为山西省乃至全国计算及相关领域的青年科技工作者搭建了交流平台,创造了成长机会,也承担了一定的社会责任。
2023-01-01
时光荏苒,举步维艰的2022年已远去,欣欣向荣的2023正向我们走来。2022年,在YOCSEF总部、各兄弟分论坛的大力支持下、在各位AC委员、通讯AC委员和委员的共同努力下,CCF YOCSEF太原紧密围绕学术与产业前沿,聚焦科学与社会热点,举办了一系列前瞻性、引领性的观点论坛、技术论坛与CLUB活动,主题涵盖了人工智能算力基础设施、人工智能数据标注、经济转型发展、非物质文化遗产保护等,为山西省乃至全国计算及相关领域的青年科技工作者搭建了交流平台,创造了成长机会,也承担了一定的社会责任。
2022-05-23
2022年5月21日,CCF YOCSEF广州举办“走进图普科技”ClLUB活动暨...
2022-08-18
近年来,人工智能快速发展、赋能千行百业,催生新技术、新产品、...
2022-08-20
近年来,我国大力发展区块链技术和相关应用成果落地,无论是科研...
2022-09-26
近年来,人工智能技术发展迅速,与之相关的数据安全问题也日益受...
CCF聚焦