図の拡大表示
本文へ戻る ↩
← 本文へ戻る
共有重みの制約 · 厳密な数学モデル
一つの重みを変えると、二つの入力は逆向きに動く。両方を正の方向へ動かすことはできない。この厳密な反例はバイアスなしの線形モデルであり、バイアスも編集できれば事情は変わる。
設定・適用範囲・元ファイル
x
=
±
1
x=\pm1
x
=
±
1
における
h
w
(
x
)
=
w
x
h_w(x)=wx
h
w
(
x
)
=
w
x
という厳密な反例。共有重みの更新は
(
δ
w
,
−
δ
w
)
(\delta w,-\delta w)
(
δ
w
,
−
δ
w
)
を生むため、
d
≠
0
d\ne0
d
=
0
では直接介入の要求
(
+
d
,
+
d
)
(+d,+d)
(
+
d
,
+
d
)
を実現できない。編集可能なバイアスがあれば、この結論は変わる。
原画像 ↧
GIF ↧
MP4 ↧
アニメーションを再生
図が見えたら一度だけ自動再生 · いつでも停止できます