サーベイ論文の確認と追加調査⑨(Applications)|Graph Neural Networkの研究を俯瞰する #9

f:id:lib-arts:20200209171324p:plain

グラフ理論やCNNをグラフ理論に応用したグラフ畳み込みネットワークについては下記で以前に簡単に取り扱いました。

ベースライン論文におけるGraphのCNN学習アルゴリズム|ベースから理解するGraph Convolutional Networks #2 - Liberal Art’s diary

もう少し俯瞰的に取り扱えればということで簡単に調べてみたのですが、2019年のサーベイ論文を見つけましたのでこちらを読み進めつつ必要に応じて追加調査を行えればと思います。

[1901.00596] A Comprehensive Survey on Graph Neural Networks

#1ではAbstractについて、#2ではIntroductionについて、#3ではBackground & Definition(Section2)について、#4ではCategorization and Frameworks(Section3)について、#5ではRecurrent graph neural networksについて(Section4)、#6ではConvolutional Graph Neural Networks(Section5)について、#7ではGraph AutoEncoders(Section6)について、#8ではSpatial-Temporal Graph Neural Networks(Section7)について取り扱いました。

サーベイ論文の確認と追加調査②(Introduction)|Graph Neural Networkの研究を俯瞰する #2 - Liberal Art’s diary

サーベイ論文の確認と追加調査④(Categorization and Frameworks)|Graph Neural Networkの研究を俯瞰する #4 - Liberal Art’s diary

サーベイ論文の確認と追加調査⑦(Graph AutoEncoders)|Graph Neural Networkの研究を俯瞰する #7 - Liberal Art’s diary

サーベイ論文の確認と追加調査⑧(Spatial-Temporal Graph Neural Networks)|Graph Neural Networkの研究を俯瞰する #8 - Liberal Art’s diary

#9ではSection8のApplicationsについて取り扱っていきます。
以下目次になります。
1. Applications(Section8)
1-1. Data Sets(Section8-A)
1-2. Evaluation & Open-source Implementations(Section8-B)
1-3. Practical Applications(Section8-C)
2. まとめ


1. Applications(Section8)
1節ではSection8のApplicationsについて取り扱います。

f:id:lib-arts:20200221221212p:plain

f:id:lib-arts:20200221221231p:plain

冒頭部の記載では、グラフ構造のデータ(graph-structured data)は偏在する(ubiquitous)ものであるため、GNNsは幅広い応用を持つとされています。また、Section8ではgraph data setsのベンチマーク(Section8-A)や評価手法、オープンソース実装(Section8-B)などを取りまとめたとしています。


1-1. Data Sets(Section8-A)
1-1節ではSection8-AのData Setsについて取り扱います。

f:id:lib-arts:20200221221957p:plain

記載としては、Data setsは、それぞれ引用ネットワーク(citation networks)、生物化学的なグラフ(biochemical graphs)、ソーシャルネットワーク(social networks)、その他(others)の四つのグループに分類したとされています。

f:id:lib-arts:20200221222332p:plain

データセットの詳細な分類は上記のようにTable6で行なったとされています。


1-2. Evaluation & Open-source Implementations(Section8-B)
1-2節ではSection8-BのEvaluation & Open-source Implementationsについて取り扱います。

f:id:lib-arts:20200221222624p:plain

冒頭部の記載では、RecGNNsとConvGNNsのパフォーマンスを測定するための一般的なタスクとして、Node ClassificationとGraph Classificationがあると紹介されています。また、Node Classificationの記載としては、Cora、CiteseerPubmedPPIRedditなどを含むベンチマークのデータセットがあるとされています。評価にあたっては、テストデータにおける複数回検証(multiple runs)における平均正答率(average accuracy)やF1スコアを用いるとしています。

f:id:lib-arts:20200221223602p:plain

Graph Classificationについては、しばしば10-fold CV(cross validation)をモデルの評価に用いるとされています。とはいえ10-fold CVはデータの分割が極端になるため、代替案としてdouble cv methodなども紹介されています。

f:id:lib-arts:20200221224153p:plain

上記ではオープンソースの実装に関していくつか紹介されています。PyTorch GeometricやDeep Graph Library(DGL)などのGraph Neural Networksを実装するためのライブラリがいくつか紹介されています。


1-3. Practical Applications(Section8-C)
1-3節ではSection8-CのPractical Applicationsについて取り扱います。

f:id:lib-arts:20200221224452p:plain

冒頭部の記載では、GNNsの実用的な応用例として、Node Classification、Graph Classifiction、Network Embedding、Graph Generation、Spatial-Temporal Graph forecasting、link predictionなどが挙げられています。

f:id:lib-arts:20200221225256p:plain

(中略)

f:id:lib-arts:20200221225319p:plain

上記ではGNNsのComputer visionへの応用について、シーングラフ生成(Scene Graph Generation)、点群分類(Point Clouds Classification)、行動識別(action recognition)などが紹介されています。また、human-object interaction、few-shot image classification、visual reasoningなどの応用についても範囲が広がっているようです。

f:id:lib-arts:20200221225952p:plain

(中略)

f:id:lib-arts:20200221230006p:plain

上記ではGNNsの言語処理(Natural Language Processing)についての応用について記載されています。一般的な応用としてテキスト分類が挙げられた上で、様々な研究が紹介されています。

以後Traffic、Recommender systems、Chemistry、Othersなどについても紹介されていますが、全体の概要を掴むのが目的のためここでは省略します。


2. まとめ
#9ではSection8のApplicationsについて取り扱いました。
#10では引き続きSection9のFuture DirectionsとSection10のConclusionについて取り扱います。