03 May 2018, 20:53

fast.ai Practical Deep Learning for Corders 2018

はじめに

今年のGWにまとめてfast.aiの Practical Deep Learning for Coders 2018 を受けました。

去年の記事はこちら。

講座の特徴

主に、2017との比較から

  • フレームワークがKerasからPyTorchへ
  • 最強のノウハウがつまったfastaiライブラリ

講座で扱うKaggleコンペ

fast.aiといえば、Kaggleコンペの実践的な攻略が魅力。 2018でも、以下のKaggleコンペが扱われました

各Lessonの内容メモ

Lesson1

受講したときから時間が経ってしまったので、忘れてしまいました。この記事とかが詳しい。

Lesson2

別記事にまとめました。

Lesson3

CNNの仕組み、ConvolutionのExcelによる解説。このあたりは、去年と同じなので飛ばしました。

半分の時間をつかって、Kaggleコンペの衛生写真からの多ラベル画像分類。

Lesson4

Structured Deep Learnng. 構造化データに対する DLのアプローチにを紹介。 なんでも、これをつかうと黒魔術的な特徴量設計をせずとも、いい精度がでるとか。

1時間弱、みっちり語られる。Kaggle の Rossmmanコンペがみっちり紹介される。

残りの時間でRNNのイントロと、強調フィルタリンクイントロ。

Lesson5

折り返し地点。今までは、faataiライブラリを中心に、高レベルから外観を俯瞰して全体像を眺めてきた。 ここからは、PyTorchをつかって、がっつりコーディングの解説が入る。

この回では、前半をつかって 強調フィルタリングの PyTorchによる実装が解説される。

また、後半は、Excelをつかった 最適化手法のデモ。

Lesson6

強調フィルタリングの解説が続く。その後、Rossmannの解説。

後半は、がっつり RNN。PyTorchでスクラッチから実装してみてねとのこと。 今回は時間がしないので この課題はパス。

Lesson7

前半は、RNN、とくに GRUの解説。これも code ベースでの説明。

後半は、CNNへ戻ってくる。PyTorchを使った、ResNetsのスクラッチ実装解説。題材は、CIFAR10.

最後に、Part2はもっと難しいので、Part1の内容を理解してから望んでねとのこと。はい、ムズいのは知ってます。