図の拡大表示
← 本文へ戻る
固定した出力側の座標軸に、同じ色の点への重み介入と活性化介入を示す。白抜きが元の出力、塗りつぶしが編集後の出力で、AとCは動き、Bは静止する。
作用の仕組み · 厳密な数学モデル

一つの共有行列が、入力ごとに異なる補正を加える。線形な射影では、重み編集と活性化への介入で同じ規則を厳密に実行できる。図はその数学的な例である。

設定・適用範囲・元ファイル
Qwenの活性化データではなく、線形な書き込みの仕組みを厳密に定義した単純な例である。A=(1,0)A=(1,0)、B=(0,1)B=(0,1)、C=(−1,0)C=(-1,0)、W=IW=I、k=(1,0)k=(1,0)、d=(0,.7)d=(0,.7)。組み込んだ書き込み行列 ΔW=dk⊤\Delta W=dk^\top とフック d(k⊤a)d(k^\top a) は、現在の各入力に対して同じ結果を与える。固定した出力側の座標軸で、強度α\alphaを0から1までそろえて、左はサンプル入力格子を編集済み行列で変換し、右は基準格子を固定して各出力をαd(k⊤a)\alpha d(k^\top a)だけ動かす。白抜きが元、塗りつぶしが編集後で、色は同じ点を示す。強度1ではAが+d+d、Bは静止、Cが−d-dだけ動く。これは解析的な補間であり、最適化の記録でもQwenで測定した動力学でもない。
図が見えたら一度だけ自動再生 · いつでも停止できます