fast.ai Practical Deep Learning for Corders 2018

    はじめに

    今年のGWにまとめてfast.aiの Practical Deep Learning for Coders 2018 を受けました。

    去年の記事はこちら。

    講座の特徴

    主に、2017との比較から

    • フレームワークがKerasからPyTorchへ
    • 最強のノウハウがつまったfastaiライブラリ

    講座で扱うKaggleコンペ

    fast.aiといえば、Kaggleコンペの実践的な攻略が魅力。 2018でも、以下のKaggleコンペが扱われました

    各Lessonの内容メモ

    Lesson1

    受講したときから時間が経ってしまったので、忘れてしまいました。この記事とかが詳しい。

    Lesson2

    別記事にまとめました。

    Lesson3

    CNNの仕組み、ConvolutionのExcelによる解説。このあたりは、去年と同じなので飛ばしました。

    半分の時間をつかって、Kaggleコンペの衛生写真からの多ラベル画像分類。

    Lesson4

    Structured Deep Learnng. 構造化データに対する DLのアプローチにを紹介。 なんでも、これをつかうと黒魔術的な特徴量設計をせずとも、いい精度がでるとか。

    1時間弱、みっちり語られる。Kaggle の Rossmmanコンペがみっちり紹介される。

    残りの時間でRNNのイントロと、強調フィルタリンクイントロ。

    Lesson5

    折り返し地点。今までは、faataiライブラリを中心に、高レベルから外観を俯瞰して全体像を眺めてきた。 ここからは、PyTorchをつかって、がっつりコーディングの解説が入る。

    この回では、前半をつかって 強調フィルタリングの PyTorchによる実装が解説される。

    また、後半は、Excelをつかった 最適化手法のデモ。

    Lesson6

    強調フィルタリングの解説が続く。その後、Rossmannの解説。

    後半は、がっつり RNN。PyTorchでスクラッチから実装してみてねとのこと。 今回は時間がしないので この課題はパス。

    Lesson7

    前半は、RNN、とくに GRUの解説。これも code ベースでの説明。

    後半は、CNNへ戻ってくる。PyTorchを使った、ResNetsのスクラッチ実装解説。題材は、CIFAR10.

    最後に、Part2はもっと難しいので、Part1の内容を理解してから望んでねとのこと。はい、ムズいのは知ってます。