生成式 AI 可视化
这些课程介绍学习得到的表示与数据生成方法。自编码器把已有输入编码到潜在空间,再重建输入;GAN 和扩散模型从噪声生成样本。单个合理样本不能证明生成效果,因为模型可能每次都输出同一个结果。要同时检查样本落在哪里,以及遗漏了哪些数据区域。
课程内容
| 课程 | 观察内容 | 实验检验的问题 |
|---|---|---|
| 自编码器 | 训练后的编码器和解码器通过小型潜在编码重建 8×8 图像 | 扩大瓶颈可改善所选数字,却不能让只训练过数字的解码器复制任意图像 |
| GAN | 两个小网络学习一维分布,D 先更新判断,G 再通过固定的 D 学习 | 判别器平均分接近 0.5 不等于分布匹配;相同潜在输入在训练后仍产生相同输出 |
| 扩散模型 | 确定性 DDIM 采样器对二维样本反复应用精确的解析去噪器 | 高噪声下的一次估计可能落在数据群之间,改变噪声水平并反复估计才能逐步恢复结构 |
建议学习顺序
若不熟悉参数更新与评估,先学训练循环。自编码器以原输入作为重建目标,介绍潜在表示。接着学 GAN:生成样本没有一一配对的真实目标。第一次更新 D 时,评分曲线改变,G 的输出位置不变;更新 G 时,曲线固定,输出位置改变。最后用新的一批潜在输入生成样本,说明生成阶段不再需要 D。
再学扩散模型,观察迭代生成。这里的去噪器是已知分布的精确计算,不是课堂中训练的神经网络。固定初始噪声,比较第一次干净样本估计和反复去噪后的结果。
检查证据与覆盖范围
GAN 实验确实优化两个小网络,损失和输出可能振荡,400 轮不能证明收敛。扩散实验固定去噪器,只研究采样,不展示图像模型的训练优化。
GAN 与扩散使用低维合成分布,让缺失的数据群可见。邻域计数描述有限批次,不是通用图像质量指标。自编码器使用未参与训练的数字和陌生棋盘格测试重建。比较某个参数时,应固定输入和其他控制项。
全部生成式 AI 可视化课程
选择课程,运行默认实验,检查训练或采样步骤,再尝试失败场景。