生成 AI の可視化
学習した表現とデータの生成方法を扱います。オートエンコーダーは既存の入力を潜在コードに通して再構成し、GAN と拡散モデルはノイズからサンプルを作ります。一つのもっともらしい出力だけでは不十分です。毎回同じ出力かもしれないため、サンプルの位置と、取りこぼしたデータ領域の両方を調べます。
レッスンの内容
| レッスン | 観察するもの | 実験で確かめること |
|---|---|---|
| オートエンコーダー | 学習済みのエンコーダーとデコーダーが、小さい潜在コードから 8×8 画像を再構成する | ボトルネックを広げると選んだ数字は改善しても、数字だけで学んだデコーダーが万能な複写機にはならない |
| GAN | 二つの小ネットワークが一次元分布を学び、D の更新後に固定した D を通して G が学ぶ | D の平均スコアが 0.5 付近でも分布の一致を証明せず、同じ潜在入力は学習後も同じ出力になる |
| 拡散モデル | 決定論的な DDIM サンプラーが、厳密な解析的ノイズ除去器を二次元サンプルに繰り返し使う | 高ノイズの一回の推定は群の間へ落ちることがあり、ノイズ水準を変えた反復推定で構造を解きほぐす |
推奨する学習順序
パラメーター更新と評価が初めてなら、学習ループから始めます。オートエンコーダーは元の入力を再構成目標とし、潜在表現を紹介します。次の GAN には、生成サンプルと一対一に対応する実データの目標がありません。最初の D 更新ではスコア曲線だけが変わり、G の出力位置は固定されます。G 更新では逆に曲線を固定し、出力位置を変えます。最後の新しいバッチから、生成時に D を外せる理由を確認します。
続いて拡散モデルで反復的な生成を見ます。ここでのノイズ除去器は既知の分布に対する厳密な計算で、レッスン内で学習するニューラルネットではありません。開始ノイズを固定し、最初のクリーン推定と反復後の結果を比べます。
根拠と網羅性を調べる
GAN は実際に小ネットワークを最適化するため、損失や出力が振動することがあります。400 ラウンドでは収束の証明になりません。拡散はノイズ除去器を固定してサンプリングを分離し、画像モデルを訓練する最適化は示しません。
GAN と拡散は低次元の合成分布を使い、欠けた群を見えるようにします。近傍の個数は有限バッチの記述的な確認で、一般的な画像品質指標ではありません。オートエンコーダーは学習に使わなかった数字と未知の市松模様で再構成を試します。一つのパラメーターを比べるときは、入力と他の設定を固定します。
生成 AI の可視化一覧
既定の実験を動かし、学習やサンプリングの一段階を調べ、失敗例の設定を試してください。