fundamental

Machine Learning論文クイズ #1

論文を読み慣れてくると時折参照している論文が番号を辿らなくてもわかることがあります。このように確認しなくても論文が推測できるようになると、詳しく記述を読み込まなくても引用の出てくる順番だけで論理展開がわかるようになりアドバンテージとして大…

AdaIN②(Related Work以降の重要ポイント)|Style Transferの研究を俯瞰する #4

2019年にNVIDIAが公開して話題になったStyle GANにもあるように、生成モデルへのStyle Transferの研究の導入が注目されています。当シリーズではそれを受けて、Style Transferの研究を俯瞰しながらStyle GANやStyle GAN2などの研究を取り扱っていきます。#1…

AdaIN①(Abstract&Introduction)|Style Transferの研究を俯瞰する #3

2019年にNVIDIAが公開して話題になったStyle GANにもあるように、生成モデルへのStyle Transferの研究の導入が注目されています。当シリーズではそれを受けて、Style Transferの研究を俯瞰しながらStyle GANやStyle GAN2などの研究を取り扱っていきます。#1…

Image Style Transfer②(Deep image representations以降の重要ポイント)|Style Transferの研究を俯瞰する #2

当シリーズでは、Style Transferの研究を俯瞰しながらStyle GANやStyle GAN2などの研究を読み解いていきます。#1、#2ではStyle Transfer関連の初期の研究である、Image Style Transfer(Image Style Transfer Using Convolutional Neural Networks)について取…

A Decomposable Attention Model for Natural Language Inference②(Related Work以降)|言語処理へのDeepLearningの導入の研究トレンドを俯瞰する #38

言語処理へのDeepLearningの導入をご紹介するにあたって、#3〜#8においては、Transformer[2017]やBERT[2018]について、#9~#10ではXLNet[2019]について、#11~#12ではTransformer-XL[2019]について、#13~#17ではRoBERTa[2019]について、#18~#20ではWord2Vec[20…

Image Style Transfer①(Abstract&Introduction)|Style Transferの研究を俯瞰する #1

2019年にNVIDIAが公開して話題になったStyle GANにもあるように、生成モデルへのStyle Transferの研究の導入が注目されています。当シリーズではそれを受けて、Style Transferの研究を俯瞰しながらStyle GANやStyle GAN2などの研究を読み解いていければと思…

A Decomposable Attention Model for Natural Language Inference①(Abstract&Introduction)|言語処理へのDeepLearningの導入の研究トレンドを俯瞰する #37

言語処理へのDeepLearningの導入をご紹介するにあたって、#3〜#8においては、Transformer[2017]やBERT[2018]について、#9~#10ではXLNet[2019]について、#11~#12ではTransformer-XL[2019]について、#13~#17ではRoBERTa[2019]について、#18~#20ではWord2Vec[20…

Word2vecとNegative Sampling|言語処理へのDeepLearningの導入の研究トレンドを俯瞰する #25

言語処理へのDeepLearningの導入をご紹介するにあたって、#3〜#8においては、Transformer[2017]やBERT[2018]について、#9~#10ではXLNet[2019]について、#11~#12ではTransformer-XL[2019]について、#13~#17ではRoBERTa[2019]について、#18~#20ではWord2Vec[20…

Word2Vec③(Results)|言語処理へのDeepLearningの導入の研究トレンドを俯瞰する #20

言語処理へのDeepLearningの導入をご紹介するにあたって、#3〜#8においては、Transformer[2017]やBERT[2018]について、#9~#10ではXLNet[2019]について、#11~#12ではTransformer-XL[2019]について、#13~#17ではRoBERTa[2019]について取り扱ってきました。 Tra…

Word2Vec②(Model Architectures&New Log-linear Models)|言語処理へのDeepLearningの導入の研究トレンドを俯瞰する #19

言語処理へのDeepLearningの導入をご紹介するにあたって、#3〜#8においては、Transformer[2017]やBERT[2018]について、#9~#10ではXLNet[2019]について、#11~#12ではTransformer-XL[2019]について、#13~#17ではRoBERTa[2019]について取り扱ってきました。 XLN…

Word2Vec①(論文の概要 Abstract&Introduction)|言語処理へのDeepLearningの導入の研究トレンドを俯瞰する #18

言語処理へのDeepLearningの導入をご紹介するにあたって、#3〜#8においては、Transformer[2017]やBERT[2018]について、#9~#10ではXLNet[2019]について、#11~#12ではTransformer-XL[2019]について、#13~#17ではRoBERTa[2019]について取り扱ってきました。 XLN…

Sequence to Sequence Learning with Neural Networks|DeepLearning論文の原文を読む #20

#19はYOLOについて取り扱いました。 #20ではGoogle翻訳に導入して精度が上がったと一時期話題になった系列変換モデルであるSequence to Sequence(Seq2Seq)について取り扱います。(必要以上に固く書きたくなく90%〜95%程度の確信度で書きますので、もし間違…

YOLO(You Only Look Once)|DeepLearning論文の原文を読む #19

#18はRetinaNetについて取り扱いました。https://lib-arts.hatenablog.com/entry/paper18_RetinaNet#19では同じ物体検出のモデルかつRetinaNet[2017]よりも2年ほど前のYOLO[2015]について取り扱います。(必要以上に固く書きたくなく90%〜95%程度の確信度で…

RetinaNet|DeepLearning論文の原文を読む #18

#17はBatch Normalizationについて取り扱いました。 #18ではRetinaNetについて取り扱います。(必要以上に固く書きたくなく90%〜95%程度の確信度で書きますので、もし間違いなどがあれば気軽にご指摘いただけたらと思います。) [1708.02002] Focal Loss for…

Batch Normalization|DeepLearning論文の原文を読む #17

#16はXceptionについて取り扱いました。 #17ではBatch Normalizationについて取り扱います。 [1502.03167] Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift以下論文の目次です。基本的な書き方の流れとして…

Xception|DeepLearning論文の原文を読む #16

#15はU-Netについて取り扱いました。 #16では軽量化にあたってのモデル構造について検討を行ったXceptionについて取り扱います。 [1610.02357] Xception: Deep Learning with Depthwise Separable Convolutions以下論文の目次です。基本的な書き方の流れとし…

U-Net|DeepLearning論文の原文を読む #15

DeepLearning系の研究を中心に論文の読解メモをまとめていきます。エポックになった有名どころの論文を精読し、所感などをまとめられればと思います。 #14はFCNについて取り扱いました。 #15ではFCNをベースのアイデアとして修正したアルゴリズムを医療画像…

FCN(Fully Convolutional Networks)|DeepLearning論文の原文を読む #14

#13ではAdamについて取り扱いました。(#13は和訳のみとなっています。) #14ではセグメンテーションのアルゴリズムであるFCN(Fully Convolutional Networks)について取り扱います。(必要以上に固く書きたくなく90%〜95%程度の確信度で書きますので、もし間…

Adam(Adaptive Moment Estimation)|DeepLearning論文の原文を読む #13

#12ではDCGAN(Deep Convolutional GAN)について取り扱いました。 #13では最適化のアルゴリズムとして近年よく使われているAdamについて取り扱います。(ちゃんと読めてなかったのでAbstractの和訳だけにとどめ、後日追記します。) [1412.6980] Adam: A Meth…

DCGAN(Deep Convolutional GAN)|DeepLearning論文の原文を読む #12

#11ではGAN(Generative Adversarial Networks)について取り扱いました。 #12では#11のGANの学習の安定化をはかったDCGAN(Deep Convolutional Generative Adversarial Networks)について取り扱います。(必要以上に固く書きたくなく90%〜95%程度の確信度で書…

GAN(Generative Adversarial Networks)|DeepLearning論文の原文を読む #11

#10ではMobileNetsについて取り扱いました。 #11ではDeepLearningを用いた生成モデルであるGAN(Generative Adversarial Networks)について取り扱います。(必要以上に固く書きたくなく90%〜95%程度の確信度で書きますので、もし間違いなどがあれば気軽にご指…

MobileNets|DeepLearning論文の原文を読む #10

#9ではWaveNetについて取り扱いました。 #10ではモデルの軽量化に関連してMobileNetsについて取り扱います。(必要以上に固く書きたくなく90%〜95%程度の確信度で書きますので、もし間違いなどがあれば気軽にご指摘いただけたらと思います。) [1704.04861] …

WaveNet: A Generative Model for Raw Audio|DeepLearning論文の原文を読む #9

DeepLearning系の研究を中心に論文の読解メモをまとめていきます。エポックになった有名どころの論文を精読し、所感などをまとめられればと思います。(必要以上に固く書きたくなく90%〜95%程度の確信度で書きますので、もし間違いなどがあれば気軽にご指摘…

Trust Region Policy Optimization(TRPO)|DeepLearning論文の原文を読む #8

DeepLearning系の研究を中心に論文の読解メモをまとめていきます。エポックになった有名どころの論文を精読し、所感などをまとめられればと思います。(読んだ際に忙しくちゃんと読めなかった論文なので一旦Abstractの和訳のみで詳細は後日必要があれば追記…

Deep Q Network(DQN)|DeepLearning論文の原文を読む #7

DeepLearning系の研究を中心に論文の読解メモをまとめていきます。エポックになった有名どころの論文を精読し、所感などをまとめられればと思います。(必要以上に固く書きたくなく90%〜95%程度の確信度で書きますので、もし間違いなどがあれば気軽にご指摘…

SSD|DeepLearning論文の原文を読む #6

DeepLearning系の研究を中心に論文の読解メモをまとめていきます。エポックになった有名どころの論文を精読し、所感などをまとめられればと思います。(今回は読み流しが多いので、参考程度にご確認いただけたらと思います。) #5では物体検出(object detect…

Faster R-CNN|DeepLearning論文の原文を読む #5

DeepLearning系の研究を中心に論文の読解メモをまとめていきます。エポックになった有名どころの論文を精読し、所感などをまとめられればと思います。(必要以上に固く書きたくなく90%〜95%程度の確信度で書きますので、もし間違いなどがあれば気軽にご指摘…

GoogLeNet|DeepLearning論文の原文を読む #4

DeepLearning系の研究を中心に論文の読解メモをまとめていきます。エポックになった有名どころの論文を精読し、所感などをまとめられればと思います。(必要以上に固く書きたくなく90%〜95%程度の確信度で書きますので、もし間違いなどがあれば気軽にご指摘…

ResNet|DeepLearning論文の原文を読む #3

DeepLearning系の研究を中心に論文の読解メモをまとめていきます。エポックになった有名どころの論文を精読し、所感などをまとめられればと思います。(必要以上に固く書きたくなく90%〜95%程度の確信度で書きますので、もし間違いなどがあれば気軽にご指摘…

VGGNet|DeepLearning論文の原文を読む #2

DeepLearning系の研究を中心に論文の読解メモをまとめていきます。エポックになった有名どころの論文を精読し、所感などをまとめられればと思います。(必要以上に固く書きたくなく90%〜95%程度の確信度で書きますので、もし間違いなどがあれば気軽にご指摘…