update

Author: L1aoXingyu

README.md

@@ -13,7 +13,7 @@ Learn Deep Learning with PyTorch
 书中已经详细给出了如何基于Anaconda配置python环境，以及PyTorch的安装，如果你使用自己的电脑，并且有Nvidia的显卡，那么你可以愉快地进入深度学习的世界了，如果你没有Nvidia的显卡，那么我们需要一个云计算的平台来帮助我们学习深度学习之旅。[如何配置aws计算平台](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/aws.md)
 
 
-**以下的课程目录和书中目录有出入，因为内容正在不断更新，所有的内容更新完成会更迭到书的第二版中！**
+**以下的课程目录和书中目录有出入，因为内容正在更新到第二版，第二版即将上线！！**
 ## 课程目录
 ### part1: 深度学习基础
 - Chapter 2: PyTorch基础
@@ -28,6 +28,14 @@ Learn Deep Learning with PyTorch
     - [多层神经网络，Sequential 和 Module](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter3_NN/nn-sequential-module.ipynb)
     - [深度神经网络](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter3_NN/deep-nn.ipynb)
     - [参数初始化方法](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter3_NN/param_initialize.ipynb)
+
+    - 优化算法
+        - [SGD](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter3_NN/optimizer/sgd.ipynb)
+        - [动量法](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter3_NN/optimizer/momentum.ipynb)
+        - [Adagrad](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter3_NN/optimizer/adagrad.ipynb)
+        - [RMSProp](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter3_NN/optimizer/rmsprop.ipynb)
+        - [Adadelta](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter3_NN/optimizer/adadelta.ipynb)
+        - [Adam](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter3_NN/optimizer/adam.ipynb)
 
 - Chapter 4: 卷积神经网络
     - [PyTorch 中的卷积模块](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter4_CNN/basic_conv.ipynb)
@@ -42,42 +50,44 @@ Learn Deep Learning with PyTorch
         - [学习率衰减](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter4_CNN/lr-decay.ipynb)
 
 - Chapter 5: 循环神经网络
-    - LSTM 和 GRU
-    - 使用RNN进行时间序列分析
-    - 使用RNN进行图像分类
-    - Word Embedding和N-Gram模型
-    - Seq-LSTM做词性预测
+    - [循环神经网络模块：LSTM 和 GRU](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter5_RNN/pytorch-rnn.ipynb)
+    - [使用 RNN 进行图像分类](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter5_RNN/rnn-for-image.ipynb)
+    - 使用 RNN 进行时间序列分析
+    - 自然语言处理的应用：
+        - Word Embedding 
+        - N-Gram 模型
+        - Seq-LSTM 做词性预测
 
 - Chapter 6: 生成对抗网络
     - 自动编码器
     - 变分自动编码器
     - 生成对抗网络的介绍
     - 深度卷积对抗网络(DCGANs)
 
-- Chapter 7: PyTorch高级
-    - [tensorboard 可视化](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter6_PyTorch-Advances/tensorboard.ipynb)
-    - 优化算法
-        - [SGD](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter6_PyTorch-Advances/optimizer/sgd.ipynb)
-        - [动量法](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter6_PyTorch-Advances/optimizer/momentum.ipynb)
-        - [Adagrad](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter6_PyTorch-Advances/optimizer/adagrad.ipynb)
-        - [RMSProp](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter6_PyTorch-Advances/optimizer/rmsprop.ipynb)
-        - [Adadelta](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter6_PyTorch-Advances/optimizer/adadelta.ipynb)
-        - [Adam](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter6_PyTorch-Advances/optimizer/adam.ipynb)
-    - [灵活的数据读取介绍](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter6_PyTorch-Advances/data-io.ipynb)
+- Chapter 7: 深度增强学习
+    - 深度增强学习的介绍
+    - Policy gradient
+    - Actor-critic gradient
+    - Deep Q-networks
+
+- Chapter 8: PyTorch高级
+    - [tensorboard 可视化](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter8_PyTorch-Advances/tensorboard.ipynb)
+
+   - [灵活的数据读取介绍](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter8_PyTorch-Advances/data-io.ipynb)
     - autograd.function 的介绍
     - 数据并行和多 GPU
     - PyTorch 的分布式应用
     - 使用 ONNX 转化为 Caffe2 模型
     - PyTorch 写 C 扩展
 
 ### part2: 深度学习的应用
-- Chapter 8: 计算机视觉
-    - [Fine-tuning: 通过微调进行迁移学习](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter7_Computer-Vision/fine-tune.ipynb)
+- Chapter 9: 计算机视觉
+    - [Fine-tuning: 通过微调进行迁移学习](https://github.com/SherlockLiao/code-of-learn-deep-learning-with-pytorch/blob/master/chapter9_Computer-Vision/fine-tune.ipynb)
     - 语义分割: 通过 FCN 实现像素级别的分类
     - Neural Transfer: 通过卷积网络实现风格迁移
     - Deep Dream: 探索卷积网络眼中的世界
 
-- Chapter 9: 自然语言处理
+- Chapter 10: 自然语言处理
     - char rnn 实现文本生成
     - Image Caption: 实现图片字幕生成
     - seq2seq 实现机器翻译

chapter8_Natural Language Process/seq2seq-translation/README.md renamed to chapter10_Natural Language Process/seq2seq-translation/README.md

@@ -11,8 +11,7 @@
    "cell_type": "markdown",
    "metadata": {},
    "source": [
-    "## 把PyTorch当做NumPy用\n",
-    "PyTorch的官方介绍是一个拥有强力GPU加速的张量和动态构建网络的库，其主要构件是张量，所以我们可以把PyTorch当做NumPy来用，PyTorch的很多操作好NumPy都是类似的，但是因为其能够在GPU上运行，所以有着比NumPy快很多倍的速度。"
+    "## 把PyTorch当做NumPy用"
    ]
   },
   {
@@ -58,27 +57,13 @@
     "pytorch_tensor2 = torch.from_numpy(numpy_tensor)"
    ]
   },
-  {
-   "cell_type": "markdown",
-   "metadata": {},
-   "source": [
-    "使用以上两种方法进行转换的时候，会直接将 NumPy ndarray 的数据类型转换为对应的 PyTorch Tensor 数据类型，关于 Tensor 的数据类型，可以查阅[文档](http://pytorch.org/docs/0.3.0/tensors.html)"
-   ]
-  },
   {
    "cell_type": "markdown",
    "metadata": {},
    "source": [
     "\n"
    ]
   },
-  {
-   "cell_type": "markdown",
-   "metadata": {},
-   "source": [
-    "同时我们也可以使用下面的方法将 pytroch tensor 转换为 numpy ndarray"
-   ]
-  },
   {
    "cell_type": "code",
    "execution_count": 4,
@@ -94,29 +79,13 @@
     "numpy_array = pytorch_tensor1.cpu().numpy()"
    ]
   },
-  {
-   "cell_type": "markdown",
-   "metadata": {},
-   "source": [
-    "需要注意 GPU 上的 Tensor 不能直接转换为 NumPy ndarray，需要使用`.cpu()`先将 GPU 上的 Tensor 转到 CPU 上"
-   ]
-  },
   {
    "cell_type": "markdown",
    "metadata": {},
    "source": [
     "\n"
    ]
   },
-  {
-   "cell_type": "markdown",
-   "metadata": {},
-   "source": [
-    "PyTorch Tensor 使用 GPU 加速\n",
-    "\n",
-    "我们可以使用以下两种方式将 Tensor 放到 GPU 上"
-   ]
-  },
   {
    "cell_type": "code",
    "execution_count": null,
@@ -134,15 +103,6 @@
     "gpu_tensor = torch.randn(10, 20).cuda(1) # 将 tensor 放到第二个 GPU 上"
    ]
   },
-  {
-   "cell_type": "markdown",
-   "metadata": {},
-   "source": [
-    "使用第一种方式将 tensor 放到 GPU 上的时候会将数据类型转换成定义的类型，而是用第二种方式能够直接将 tensor 放到 GPU 上，类型跟之前保持一致\n",
-    "\n",
-    "推荐在定义 tensor 的时候就明确数据类型，然后直接使用第二种方法将 tensor 放到 GPU 上"
-   ]
-  },
   {
    "cell_type": "markdown",
    "metadata": {},
@@ -715,8 +675,7 @@
    "cell_type": "markdown",
    "metadata": {},
    "source": [
-    "## Variable\n",
-    "tensor 是 PyTorch 中的完美组件，但是构建神经网络还远远不够，我们需要能够构建计算图的 tensor，这就是 Variable。Variable 是对 tensor 的封装，操作和 tensor 是一样的，但是每个 Variabel都有三个属性，Variable 中的 tensor本身`.data`，对应 tensor 的梯度`.grad`以及这个 Variable 是通过什么方式得到的`.grad_fn`"
+    "## Variable"
    ]
   },
   {
@@ -782,13 +741,6 @@
     "print(z.grad_fn)"
    ]
   },
-  {
-   "cell_type": "markdown",
-   "metadata": {},
-   "source": [
-    "上面我们打出了 z 中的 tensor 数值，同时通过`grad_fn`知道了其是通过 Sum 这种方式得到的"
-   ]
-  },
   {
    "cell_type": "code",
    "execution_count": 31,
@@ -836,13 +788,6 @@
     "print(x.grad)\n",
     "print(y.grad)"
    ]
-  },
-  {
-   "cell_type": "markdown",
-   "metadata": {},
-   "source": [
-    "通过`.grad`我们得到了 x 和 y 的梯度，这里我们使用了 PyTorch 提供的自动求导机制，非常方便，下一小节会具体讲自动求导。"
-   ]
   }
  ],
  "metadata": {