先端科学研究所 AI研究センター　第１回講演会開催報告

2021年6月25日
2021年6月24日（木）に本学先端科学研究所会議室を会場として，AI研究センター主催の講演会を開催しました。
「Trustworthy Machine Learning（高信頼性の機械学習）」をテーマとして，理化学研究所革新知能統合研究センター (AIP)チームリーダーである趙啓斌（Qibin ZHAO）博士が講演しました。
講演は，本学会場からZoomで配信しました。
講演会には，会場に13名，Zoomに40名の合計53名の方々に参加いただき，盛況のうちに終了しました。
なお，Zoom配信を行ったため，本学学生の他，企業の方々にも聴講いただきました。
また，質疑応答の時間では，多くの質問が寄せられ，盛んに議論が交わされました。
参加者には実りのある講演会となったと思います。

第1回　講演会　（終了しました。）

日　時　：令和3年6月24日（木）17時00分～

場　所　：埼玉工業大学先端科学研究所 3階会議室（発信元）
　　　　　（Zoom会議で聴講いただけます。）

講　師　：Qibin ZHAO (趙啓斌) 博士
　　　　　理化学研究所　
　　　　　革新知能統合研究センター (AIP)チームリーダー

演　題　：Trustworthy Machine Learning 　
　　　　　「高信頼性の機械学習」

講演言語：英語

概　要　：
Deep learning has been developed to be the cornerstone of modern AI technology in the past decade. Since deep neural networks (DNNs) model has powerful expressiveness and capacity, the high-level representations and prediction function can be learned with high performance given sufficient high-quality data. However, DNNs are considered as a black-box system, which can only provide predictions but lack of human-centered explanations. In addition, DNNs are vulnerable to adversarial attacks with only tiny perturbations, which will lead to serious consequences in applications where reliability and safety are extremely essential such as autonomous vehicles or medical diagnosis. These issues destroy human trust on AI system. In this talk, I will present an overview of trustworthy machine learning and especially focus on two topics including interpretable machine learning and adversarial machine learning.

【訳文】
深層学習は過去10年間で現代AI技術の礎石となった技術として発展されてきた。深層ニューラルネットワーク（DNN）モデルは強い表現力と強大な可能性を持っているため、充分な高品質データを与えれば、高レベルの表現と予測機能はデータ学習により、高いパフォーマンスの結果が得られる。しかし、DNNはブラックボックス的なシステムであり、予測を行うだけで人間中心の説明ができないと考えられている。さらに、DNNはわずかな干渉だけでの対抗攻撃に弱くて、自動運転や自動診断などの信頼性且つ安全性が極めて重要なアプリケーションに対して致命的な結果がもたらす。これらの問題は、AIシステムに対する人間の信頼を損なう。本講演では、信頼性の高い機械学習の概要を説明し、特に解釈可能な機械学習と敵対機械学習の2つのトピックに焦点を当てる。

先端科学研究所 AI研究センター 第１回講演会開催報告

第1回 講演会 （終了しました。）

第1回　講演会　（終了しました。）