生成式 AI 可视化

这些课程介绍学习得到的表示与数据生成方法。自编码器把已有输入编码到潜在空间,再重建输入;GAN 和扩散模型从噪声生成样本。单个合理样本不能证明生成效果,因为模型可能每次都输出同一个结果。要同时检查样本落在哪里,以及遗漏了哪些数据区域。

课程内容

课程观察内容实验检验的问题
自编码器训练后的编码器和解码器通过小型潜在编码重建 8×8 图像扩大瓶颈可改善所选数字,却不能让只训练过数字的解码器复制任意图像
GAN两个小网络学习一维分布,D 先更新判断,G 再通过固定的 D 学习判别器平均分接近 0.5 不等于分布匹配;相同潜在输入在训练后仍产生相同输出
扩散模型确定性 DDIM 采样器对二维样本反复应用精确的解析去噪器高噪声下的一次估计可能落在数据群之间,改变噪声水平并反复估计才能逐步恢复结构

建议学习顺序

若不熟悉参数更新与评估,先学训练循环。自编码器以原输入作为重建目标,介绍潜在表示。接着学 GAN:生成样本没有一一配对的真实目标。第一次更新 D 时,评分曲线改变,G 的输出位置不变;更新 G 时,曲线固定,输出位置改变。最后用新的一批潜在输入生成样本,说明生成阶段不再需要 D。

再学扩散模型,观察迭代生成。这里的去噪器是已知分布的精确计算,不是课堂中训练的神经网络。固定初始噪声,比较第一次干净样本估计和反复去噪后的结果。

检查证据与覆盖范围

GAN 实验确实优化两个小网络,损失和输出可能振荡,400 轮不能证明收敛。扩散实验固定去噪器,只研究采样,不展示图像模型的训练优化。

GAN 与扩散使用低维合成分布,让缺失的数据群可见。邻域计数描述有限批次,不是通用图像质量指标。自编码器使用未参与训练的数字和陌生棋盘格测试重建。比较某个参数时,应固定输入和其他控制项。

全部生成式 AI 可视化课程

选择课程,运行默认实验,检查训练或采样步骤,再尝试失败场景。