NYU-DLSP20 深度学习课程全览：基于 pytorch-Deep-Learning 的 15 周 PyTorch 学习路线

示例工程【免费下载链接】NYU-DLSP20NYU Deep Learning Spring 2020项目地址https://gitcode.com/gh_mirrors/pyt/pytorch-Deep-Learning点击查看免费下载本课程仓库是纽约大学 2020 春季学期研究生课程 DS-GA 1008《深度学习》的官方代码库由 Yann LeCun 与 Alfredo Canziani 讲授。docs/zh/index.md 是该课程中文站点的主页完整定义了 15 周的「讲座 动手做」教学节奏从第一周的张量操作与空间拉伸到第二周的随机梯度下降与反向传播再到卷积、循环网络、生成模型、正则化与贝叶斯网络直至最后一周的隐变量能量基础模型EBM。读懂这份课程索引你不仅能获得一条由浅入深的 PyTorch 实战路线还能按周精准定位仓库中的每一个 Jupyter notebook 与配套幻灯片直接上手复现。五色的螺旋输入点通过网络前左与网络后右的空间拉伸效果是第二周动手做的核心实验未训练神经网络所进行的变换展示线性层与 tanh 非线性组合后的空间形变课程概览形式、师资与资源项目内容课程编号DS-GA 1008 · 2020 春季 · 纽约大学数据科学中心指导教师Yann LeCun 和 Alfredo Canziani讲座课周一 16:55 – 18:35, GCASL C95动手做Practicum周二 19:10 – 20:00, GCASL C95资料Google 云端硬盘、仓库内 Notebooks本课程涉及深度学习和表示学习的最新技术重点包括监督式深度学习和无监督深度学习、词嵌入、度量学习、卷积和递归网络以及在计算机视觉、自然语言理解和语音识别方面的应用。先修课程包括 DS-GA 1001 数据科学入门或一门研究生级别的机器学习课程。图例 幻灯片 Jupyter notebook YouTube 视频。原课程主页中的每周资源链接指向外站的 notebook 与课件在本仓库中这些资源已全部落地动手做 notebook 位于仓库根目录00至16编号的.ipynb文件另有 extra/ 目录下的辅助 notebook讲座幻灯片位于 slides/ 目录配套文字讲义位于 docs/zh/ 下按周组织的 markdown 文件中。因此下表中的资源均已转换为仓库内的相对路径。十五周教学大纲与仓库资源对照周次周主题讲座主题动手做主题仓库内资源notebook / 幻灯片①第一周历史及动力、发展及深度学习神经网络 NN 00-logic_neuron_programming.ipynb、01-tensor_tutorial.ipynb、02-space_stretching.ipynb②第二周SGD 及反向传播、反向传播详解训练神经网络 04-spiral_classification.ipynb、05-regression.ipynb 01 - Spiral classification.pdf③第三周参数转换、卷积神经网络 CNN自然信号的性质 06-convnet.ipynb 02 - CNN.pdf④第四周—动手做周一维卷积 07-listening_to_kernels.ipynb⑤第五周优化工具 I、优化方法 II了解卷积和自动微分引擎 03-autograd_tutorial.ipynb、extra/b-custom_grads.ipynb⑥第六周卷积神经网络的用途、循环神经网路和注意力训练循环神经网路 08-seq_classification.ipynb、09-echo_data.ipynb 04 - RNN.pdf⑦第七周能量基础模型、自监督学习与 EBM自动编码器 10-autoencoder.ipynb 05 - Generative models.pdf⑧第八周对比法、对潜在进行正则化训练变分自编码器 11-VAE.ipynb 05 - Generative models.pdf⑨第九周稀疏性、世界模型、GANs训练 GANs 05 - Generative models.pdf⑩第十周CV 自监督学习 I / II有预测性的控制 14-truck_backer_upper.ipynb 09 - Controller learning.pdf⑪第十一周激活值、损失不确定性下的预测和策略学习PPUU 00 - Logic neurons.pdf 等见讲义⑫第十二周DL for NLP I / IIAttention Transformer 15-transformer.ipynb 10 - Attention transformer.pdf⑬第十三周图形卷积网络 I / II图形卷积网络 III 16-gated_GCN.ipynb 11 - GCN.pdf⑭第十四周用于结构化预测的深度学习、图形能量基礎方式正则化和贝叶斯 12-regularization.ipynb、13-bayesian_nn.ipynb 07 - Regularisation.pdf、08 - Bayesian NN.pdf⑮第十五周—动手做周潜在变量 EBM 的推论、训练潜在变量 EBM 12 - EBM.pdf第一阶段数学基础与空间变换第 1–2 周第一周从线性代数与可视化入手01-tensor_tutorial.ipynb 讲解 PyTorch 张量基本操作02-space_stretching.ipynb 通过「五色彩虹螺旋」实验直观展示神经网络如何通过线性层 ReLU 把纠缠的数据点拉伸到线性可分的空间见文首配图对应的详细中文讲义是 docs/zh/week01/01-3.md。仓库还额外提供 00-logic_neuron_programming.ipynb引导你从零手写一个神经元与小型网络。第二周进入训练核心04-spiral_classification.ipynb 用全连接网络对螺旋数据做多分类05-regression.ipynb 演示回归问题的建模与推断配套讲义 docs/zh/week02/02-1.md 与 docs/zh/week02/02-2.md 分别讲解参数化模型、损失函数与 Jacobian 维度的反向传播推导。第二阶段卷积与序列建模第 3–6 周06-convnet.ipynb 是经典的卷积网络动手实验配合讲义 docs/zh/week03/03-3.md 分析自然信号的性质局部性、平移等变性第四周的 07-listening_to_kernels.ipynb 把卷积重新解释为「滑动的点积」用于一维信号与可学习核的「听觉」实验。第五周补足理论03-autograd_tutorial.ipynb 拆解 PyTorch 自动微分引擎extra/b-custom_grads.ipynb 展示如何自定义梯度。第六周转向序列模型08-seq_classification.ipynb 完成 many-to-one 的序列分类09-echo_data.ipynb 用回声数据训练循环网络讲义 docs/zh/week06/06-2.md 讨论循环网络与注意力的衔接。第三阶段生成模型与自监督学习第 7–10 周这一阶段围绕「让世界模型自己造数据」展开10-autoencoder.ipynb 训练自动编码器学习低维表示11-VAE.ipynb 讲解对潜在空间正则化的变分自编码器第九周动手做则指向 PyTorch 官方的 DCGAN 示例训练 GANs讲义见 docs/zh/week09/09-3.md。第十周的 14-truck_backer_upper.ipynb 是一个经典的倒车控制实验学习世界模型后利用模型预测规划动作对应讲义 docs/zh/week10/10-3.md。第四阶段NLP、图网络与贝叶斯方法第 11–15 周第十一周讲义docs/zh/week11/11-1.md、docs/zh/week11/11-2.md系统讨论激活值与损失函数的设计取舍动手做引入不确定性下的预测与策略学习PPUU。第十二周 15-transformer.ipynb 从 attention 机制出发搭建 Transformer讲义 docs/zh/week12/12-3.md 配套讲解。第十三周 16-gated_GCN.ipynb 基于 DGL 实现门控图卷积网络GatedGCN。第十四周收尾两门课12-regularization.ipynb 实现 L1/L2 正则与 Dropout13-bayesian_nn.ipynb 展示贝叶斯神经网络对不确定性的建模。第十五周全动手做讲解隐变量 EBM 的推论与训练讲义 docs/zh/week15/15-1.md 与 docs/zh/week15/15-2.md 给出椭圆数据集与喇叭状流形的自监督例子。环境搭建用 conda 一键复现课程仓库根目录提供 environment.yml定义了名为NYU-DL的独立环境。按其内容核心依赖为Python 解释器pythonpip深度学习框架pytorch、torchvision、torchtext来自pytorchchannel交互与可视化jupyterlab、ipympl在 notebook 中获得可交互的 matplotlib 图、matplotlib、torchvizpip 安装用于绘制计算图信号与图像opencv、librosa支撑第 6 周回声数据等音频实验。完整安装流程摘自 README.md适用于 Mac / Ubuntu LinuxWindows 用户需在 Git Bash 中操作# 1. 安装 Miniconda要求 Python 3.7后克隆仓库 git clone https://gitcode.com/gh_mirrors/pyt/pytorch-Deep-Learning.git # 2. 进入仓库目录创建并激活课程环境 cd pytorch-Deep-Learning conda env create -f environment.yml source activate NYU-DL # 3. 启动 Jupyter 开始动手做 jupyter lab从源码结构看仓库对 GPU 是「可选增强」而非硬性要求notebook 普遍采用device torch.device(cuda:0 if torch.cuda.is_available() else cpu)的写法见 docs/zh/week01/01-3.md 中对torch.device的讲解因此没有显卡的机器同样可以完整跑通全部实验只是训练时间会更长。教学团队原课程主页的「人物」板块列出了课程的四位核心成员仓库docs/images/目录中保留了其中三位的照片docs/images/Yann.png、docs/images/Mark.png、docs/images/Zeming.png角色姓名联系方式简介讲师Yann LeCun杨立昆yanncs.nyu.edu纽约大学计算机科学系银级教授图灵奖获得者讲师Alfredo Canzianicanzianinyu.edu纽约大学计算机科学系助教本仓库主要维护者助手Mark Goldsteingoldsteinnyu.edu纽约大学计算机科学博士生网站管理员Zeming Linzl2799nyu.edu纽约大学计算机科学博士生课程 Jekyll 站点负责人课程网站由 Jekyll 构建站点配置见 docs/_config.yml本地预览脚本为 docs/serve.sh各语言版本文档分别位于 docs/zh/、docs/en/、docs/ja/ 等目录下语言间通过 front matter 的lang-ref字段互相映射章节。使用建议将本文的大纲表当作目录按周次顺序打开对应 notebook 即可复现整门课程每节动手做前先阅读当周docs/zh/weekNN/下的中文讲义可显著降低实验的理解成本。所有实验均只依赖 environment.yml 声明的公开包无需额外下载数据集。赞分享示例工程【免费下载链接】NYU-DLSP20NYU Deep Learning Spring 2020项目地址https://gitcode.com/gh_mirrors/pyt/pytorch-Deep-Learning点击查看免费下载相关推荐NYU-DLSP20 深度学习课程全景指南PyTorch 实战 Notebook 与 14 周学习路线NYU DLSP20 深度学习课程全景指南PyTorch 实战 Notebook 与 14 周学习路线 本篇技术指南以开源仓库 pytorch Deep Le示例工程NYU-DLSP20 深度学习课程全景指南PyTorch 从 CNN、RNN 到 Transformer 的 15 周实战路线NYU DLSP20 深度学习课程全景指南PyTorch 从 CNN、RNN 到 Transformer 的 15 周实战路线 导读 本文以 NYU 2020示例工程NYU-DLSP20 深度学习课程越南语译本导览课程定位、15 周教学路线图与 PyTorch 实践环境搭建NYU DLSP20 深度学习课程越南语译本导览课程定位、15 周教学路线图与 PyTorch 实践环境搭建 本文基于仓库中的 docs/vi/index.m示例工程上一篇Packmol项目中周期性边界条件(PBC)与负坐标处理的优化历程下一篇Arcade网络游戏开发多人游戏与数据同步的终极指南创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考