DeepLearning-MuLi-Notes - 「ハンズオンラーニングディープラーニング」は、Li Mu氏(米国カーネギーメロン大学コンピュータサイエンス学部、AWS、Ph.D。のシニアチーフサイエンティスト)が講演した一連のディープラーニングビデオです。

(Notes about courses Dive into Deep Learning by Mu Li)

Created at: 2022-05-01 18:05:05
Language: Jupyter Notebook

「実践的なディープラーニング」

プロジェクトの動機コースの紹介コースのリソース教科書のカタログメモフォルダの説明主催者寄稿者


プロジェクトの動機

「ハンズオンラーニングディープラーニング」は、 Li Mu氏(米国カーネギーメロン大学コンピュータサイエンス学部、AWS、Ph.D。のシニアチーフサイエンティスト)が講演した一連のディープラーニングビデオです。このプロジェクトでは、冬休みの「ハンズオンディープラーニング」の調査中に、詳細なマークダウンノートと関連するjupyterコードを収集します。バラを贈り、手に余韻のある香りを残します。すべてのマークダウンノートをオープンソースにします。自分で学習しながら、 LiMuの「実践的な学習ディープラーニング」をすべての人が学び習得するのに役立つことを願っています。

このプロジェクトの特徴:

  1. マークダウンノートは、元のコースビデオと1対1で対応しているため、クラスを聴きながら誰もが理解するのに役立ちます。
  2. jupyterコードには、より早く始めるのに役立つ詳細な中国語のコメントが含まれています。

合計73のコースがあり、1本のビデオの平均の長さは30分以内です。コースは冬休みから40日に完了することが期待されています。

このプロジェクトで使用されているバッジはインターネットからのものです。写真の著作権を侵害している場合は、削除するために私たちに連絡してください、ありがとうございます。

コース紹介

ディープラーニングについて話すとき、ディープラーニングは機械学習のほんの一部にすぎないことを忘れて、機械学習とは別のモジュールと考えることがよくあります。これは、機械学習は、はるかに古い分野として、ディープラーニングの前に実際のアプリケーションの範囲が狭いためです。音声認識、コンピュータビジョン、自然言語処理などの分野では、大量のドメイン知識と非常に複雑な現実が必要なため、機械学習はこれらの分野の問題の解決策のほんの一部にすぎないことがよくあります。しかし、ここ数年で、ディープラーニングの出現と応用は世界を驚かせ、コンピュータービジョン、自然言語処理、自動音声認識、強化学習、統計モデリングなどの分野の急速な発展を推進し、徐々に方法この傾向は、世界で人工知能革命の波を引き起こしました。

「ハンズオンディープラーニング」コースでは、線形ニューラルネットワーク、多層パーセプトロンなどの機械学習の基本的な知識が少しあります。また、最先端のアプリケーションで現在使用されているさまざまな :leNet、ResNet、 LSTM、BERTを含む...同時に、各章の説明には、pytorch、教科書などによって実装されたコードも含まれています。これは、学生が基本モデルと最先端の知識を習得するのに役立ちます。短期間で深層学習を行い、実践能力を向上させます。

コースリソース

さらに、このコースに対応するコード実装があります。各章には、モデルの完全なPythonコードを提供する対応するjupyterメモ帳があり、すべてのリソースはオンラインで無料で利用できます。

教科書カタログ

「ハンズオンディープラーニング」(中国語版)と英語版のDive into DeepLearning0.17.1ドキュメント教科書のカタログと章のリンクは次のとおりです。

中国バージョン 英語版
1 序文 序章
2 予備知識 予選
3 線形ニューラルネットワーク 線形ニューラルネットワーク
4 多層パーセプトロン 多層パーセプトロン
5 ディープラーニングコンピューティング ディープラーニングの計算
6 畳み込みニューラルネットワーク 畳み込みニューラルネットワーク
7 現代の畳み込みニューラルネットワーク 現代の畳み込みニューラルネットワーク
8 リカレントニューラルネットワーク リカレントニューラルネットワーク
9 現代のリカレントニューラルネットワーク 現代のリカレントニューラルネットワーク
10 注意メカニズム 注意メカニズム
11 最適化 最適化アルゴリズム
12 コンピューティングパフォーマンス 計算パフォーマンス
13 コンピュータビジョン コンピュータビジョン
14 自然言語処理:事前トレーニング 自然言語処理:事前トレーニング
15 自然言語処理:アプリケーション 自然言語処理アプリケーション
16 推奨システム レコメンダーシステム
17 敵対的生成ネットワーク 敵対的生成ネットワーク
18 付録:ディープラーニングの数学的基礎 付録:深層学習のための数学
19 付録:ディープラーニングツール 付録:ディープラーニングのためのツール

ノート

ビデオ ノート 配布物 コード 寄稿者
00-発表 配布物
01-コーススケジュール 配布物
02-ディープラーニングの概要 配布物
03-インストール 配布物
04-データ操作とデータ前処理 配布物 Jupyterコード
05-線形代数 配布物
06-行列の計算 配布物
07-連鎖律と自動微分 配布物 Jupyterコード
08-線形回帰+基本的な最適化アルゴリズム 配布物 12 Jupyterコード
09-ソフトマックス回帰 配布物 12 Jupyterコード
10-多層パーセプトロン 配布物 12 Jupyterコード
11-モデルの選択+過剰適合と過適合 配布物 12
12-重量の減衰 配布物 Jupyterコード
13-廃棄方法 配布物 Jupyterコード
14-数値安定性 配布物 12
15-実際のKaggleは住宅価格を予測します 配布物 Jupyterコード
16-Pytorchニューラルネットワークの基本 配布物 Jupyterコード
17-GPUの使用と購入 配布物 Jupyterコード
18-予測住宅価格コンテストの概要 配布物
19-畳み込み層 配布物 12 Jupyterコード
20-塗りつぶしとストライド 配布物 Jupyterコード
21-複数の入力チャネルと出力チャネル 配布物 Jupyterコード
22-プーリングレイヤー 配布物 Jupyterコード
23-LeNet 配布物 Jupyterコード
24-AlexNet 配布物 Jupyterコード
25-ブロックを使用したネットワークVGG 配布物 Jupyterコード
26-NiN 配布物 Jupyterコード
27-GoogLeNet 配布物 Jupyterコード
28-バッチ正規化 配布物 Jupyterコード
29-残余ネットワークResNet 配布物
30-パート2は競争を終了します 配布物
31-CPUとGPU 配布物
32-ディープラーニングハードウェア 配布物
33-シングルマシンマルチカードパラレル 配布物
34-複数のGPUトレーニングの実装 配布物 Jupyterコード
35-分散トレーニング 配布物
36-データ拡張 配布物 Jupyterコード
37-微調整 配布物 Jupyterコード
38-第2回大会における葉の分類結果 配布物
39-実際のKaggleコンペティション-1 配布物
40-実際のKaggleコンペティション-2 配布物 Jupyterコード
41-オブジェクト検出とデータセット 配布物
[42-アンカーボックス] 配布物
43-葉分類競争技術の要約 配布物
44-オブジェクト検出アルゴリズム 配布123
45-SSDの実装 配布物 Jupyterコード
46-セマンティックセグメンテーションとデータセット 配布物 Jupyterコード
47-転置された畳み込み 配布物 12
48-FCN 配布物 Jupyterコード
49-スタイルの移行 配布物 Jupyterコード
50コースの競争 配布物
51-シーケンスモデル 配布物
52-テキストの前処理 配布物 Jupyterコード
53-言語モデル 配布物
54-リカレントニューラルネットワーク 配布物
55-RNNの実装 配布物 Jupyterコード
56-GRU 配布物 Jupyterコード
57-LSTM 配布物
58-ディープリカレントニューラルネットワーク 配布物 Jupyterコード
[59-双方向リカレントニューラルネットワーク] 配布物
60-機械翻訳データセット 配布物 Jupyterコード
61-エンコーダー-デコーダーアーキテクチャ 配布物
62-シーケンスからシーケンスへの学習 配布物 Jupyterコード
63-ビームサーチ 配布物
64-注意メカニズム 配布物 Jupyterコード
65-注意スコア 配布物
[注意を使用して66-seq2seq] 配布物
67-自己注意 配布物 Jupyterコード
68-トランス 配布物 Jupyterコード
69-BERT事前トレーニング 配布物
70-BERTの微調整 配布物
[71-オブジェクト検出競争の概要] 配布物
72-最適化アルゴリズム 配布物
73-コースの概要とさらなる学習 配布物

フォルダの説明

  • imgs:メモに含まれる写真
  • ノート:ノートのマークダウンバージョン
  • コード:コースに含まれるPythonコード

主催者

このプロジェクトを企画してくれた以下の学生に感謝します

寄稿者

このプロジェクトへの支援と貢献をしてくれた以下の学生に感謝します