从深度学习基础到稳定扩散
我们发布了包含超过30小时视频内容的新课程。
在这门课程中，我们将从零开始实现令人惊叹的稳定扩散算法！这款杀手级应用曾引发网络轰动，并让媒体惊呼"你可能再也无法相信在网上看到的内容"。
我们与来自某机构和某机构（Diffusers库的创建者）的专家密切合作，确保对最新技术进行全面覆盖。课程包含了稳定扩散发布后发表的论文内容——实际上已经远远超出了稳定扩散本身的范围！同时解释了如何阅读研究论文，并通过在课程中学习和实现多篇论文来实践这项技能。
稳定扩散及一般的扩散方法是一个绝佳的学习目标，原因有很多。首先，当然是因为你可以用这些算法创造出令人惊叹的作品！要真正将技术提升到新水平，创造出前所未见的内容，你需要深入理解底层原理。有了这种理解，你就能设计自己的损失函数、初始化方法、多模型混合等，创造出完全新颖的应用。同样重要的是：这是一个绝佳的学习目标，因为现代深度学习的几乎所有关键技术都在这些方法中汇集。对比学习、Transformer模型、自动编码器、CLIP嵌入、潜在变量、U-Net、ResNet等等都参与了一张图像的创建过程。
要充分利用本课程，你应该是一名相当自信的深度学习实践者。如果你已完成某机构的实用深度学习课程，那么你就准备好了！如果你没有学习过该课程，但能够熟练使用Python从零构建SGD训练循环、在Kaggle竞赛中具有竞争力、使用现代NLP和计算机视觉算法解决实际问题，并熟悉PyTorch和fastai，那么你也准备好开始学习本课程。
内容概要
在本课程中，我们将探索扩散方法，如去噪扩散概率模型（DDPM）和去噪扩散隐式模型（DDIM）。我们将亲自动手从零实现无条件和有条件扩散模型，构建并实验不同的采样器，并深入研究文本反转和Dreambooth等最新技巧。我们还将学习并实现Karras等人于2022年发表的论文《阐明基于扩散的生成模型的设计空间》，该论文使用预处理确保模型的输入和目标被缩放至单位方差。Karras模型根据输入中存在的噪声量，预测干净图像和噪声的插值版本。
在此过程中，我们将涵盖必要的深度学习主题，包括各种神经网络架构、数据增强方法（包括极其有效但未被充分重视的TrivialAugment策略），以及各种损失函数，包括感知损失和风格损失。我们将从零开始构建自己的模型，如多层感知机（MLP）、ResNet和U-Net，同时实验自动编码器和Transformer等生成架构。
在整个课程中，我们将使用PyTorch实现模型（但首先我们会用纯Python实现所有必要组件！），并创建自己的深度学习框架miniai。我们将掌握迭代器、生成器和装饰器等Python概念，以保持代码的整洁和高效。我们还将探索深度学习优化器，如AdamW和RMSProp，学习率退火，并学习如何实验不同初始化器、批大小和学习率的影响。当然，我们还会使用Python调试器（pdb）和从Jupyter笔记本构建Python模块的nbdev等便捷工具。
最后，我们将涉及张量、微积分和伪随机数生成等基本概念，为我们的探索奠定坚实基础。我们将把这些概念应用于均值漂移聚类和卷积神经网络（CNN）等机器学习技术，并了解如何使用某跟踪工具进行实验追踪。
我们还将使用某中心的apex库和某机构的Accelerate库来处理混合精度训练。我们将研究各种归一化方法，如层归一化和批归一化。到课程结束时，你将深入理解扩散模型，并掌握实现尖端深度学习技术的技能。
合作者观点
以下是来自某机构的合作教师对本课程的看法：
该课程是一门独一无二的课程。我认为这门课程的独特之处在于它教你如何从零开始构建深度学习模型，同时探索扩散模型的前沿研究。没有其他课程能够指导你学习扩散领域的最新论文（有时仅在论文首次出现几周后），并构建清晰、易于理解的实现。我们甚至在课程中探索了一些新的研究方向，希望这门课程能够帮助其他人进一步探索自己的想法。
如果你对构建最先进深度学习模型的高级课程感兴趣，和/或你对最先进的扩散模型如何工作以及如何构建它们感兴趣，那么这门课程就是为你准备的！即使是作为参与课程开发的人员，我也发现这是一次惊人的学习体验，希望对你也是如此！
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）
公众号二维码
公众号二维码
