XAIの概要を把握する|Surveyの構成と大枠の把握 #1

f:id:lib-arts:20220409190034p:plain

近年DeepLearningやその他複雑な機械学習の学習結果に対して説明を行う研究が行われており、XAI(eXplainable AI)などと総称されることが多いです。当記事では"SurveyのExplainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI"の内容を確認することで、体系的理解を目標に全体像の確認を行います。

[1910.10045] Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI

以下が目次となります。
1. Surveyの構成の確認
2. XAIはどのように体系化すべきか
3. まとめ


1. Surveyの構成の確認
1節では参照するSurveyの構成の確認を行います。

Abstract
1 Introduction
2 Explanability: What, Why, What For and How?
3 Transparent Machine Learning Models
4 Post-hoc Explainability Techniques for Machile Learning Models: Taxonomy, Shallow Models and Deep Learning
5 XAI: Opportunities, Challenges and Future Research Needs
6 Toward Responsible AI: Principles of Artificial Intelligence, Fairness, Privacy and Data Fusion

上記が大まかな章立てです。

f:id:lib-arts:20220409190141p:plain

体系的理解にあたっては、上記のFigure.6が参考になります。"Transparent Models"がSection3に、Post-Hoc ExplanabilityがSection4にそれぞれ大まかに対応します。

それぞれの用語の意味は、Transparentが線形回帰(Linear Regression)や決定木(Decision Tree)などのように解釈が容易であることを指しており、Post-Hocは事後的に解釈をつけることを指すとざっくりと理解しておけば良いと思います。

Post-Hocの関連語に「その場の、暫定的な」の意味のAd-Hocがありますが、ざっくりとは「バッチ処理のように後からまとめて処理を行う」と「観測値を順々に処理を行う」の対比で、抑えておけば良いと思います。

大まかな体系的理解が当記事での目標なので、続く2節ではSurveyのSection3とSection4を元にXAIの体系化に関する確認や考察を行います。

2. XAIはどのように体系化すべきか

f:id:lib-arts:20220409190141p:plain

1節では上記で表したSurveyのFigure.6に基づいてSurveyの構成の確認を行いましたが、2節では体系化について詳しく確認や考察を行います。

f:id:lib-arts:20220409190916p:plain

Section3でまとめられるTransparent Modelsは上記であり、どれも基本的な機械学習アルゴリズムであることが確認できます。

f:id:lib-arts:20220409192423p:plain

それぞれの手法に関してはFigure.5でまとめられており、上記を元に大まかに概要を掴むことができると思います。詳細の理解が必要であれば、PRML(Bishop本)などが詳しいのでそちらなどを参照すると良いと思います。

Section4でまとめられるPost-Hocな手法に関しては、手法に関係なく用いることができる"Model-Agnostic"の手法と、特定の手法に対応した"Model-Specific"の手法の二つに大別され、"Model-Agnostic"がSection4-1で、"Model-Specific"がSection4-2とSection4-3でそれぞれ解説されます。Section4-2ではアンサンブル学習やサポートベクトルマシンなどのShallowな手法が、Section4-3ではDeepLearningに関連してMLP、CNN、RNNなどが取り扱われます。

また、Section4-1の"Model-Agnostic"な手法では、「①単純化(simplification)に基づく手法」と「②特徴量の関連に基づく手法」が主に二つ挙げられており、①がLIMEに、②がSHAPにそれぞれ対応します。


3. まとめ
#1では"SurveyのExplainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI"の内容を元にXAIの体系的な整理を行いました。
続く#2では"Model-Agnostic"のところで出てきたLIMEとSHAPに関してそれぞれ論文を元に確認を行います。