統計学輪講 第07回

連想記憶とは、情報をパターンとして分散的に記憶し、鍵となる情報を与えることで元のパターン全体を再現する方式である。これらに関する研究は特にHopfieldモデルに関する研究が多くあるが、Hopfieldモデルでは仮定が強いことや記憶容量の上限が小さいことが知られている。それらを解決するモデルの1つとして、probability-maximizing algorithmがWhittle [1]によって提案されている。本研究のモデルはまず、想起したい記憶に対してガウス分布に従うノイズが加わった記憶の手がかりを観測し、そこから元の記憶を推測する問題を考える。そして、記憶のラベルと観測される記憶の手がかりとの同時分布から記憶の手がかりの周辺分布を求め、その密度関数の極大点を予測とする。
本発表ではprobability-maximizing algorithmが誤り確率の観点から他のモデルより優れていることを報告する。また、probability-maximizing algorithmに対して現在行っている考察を紹介する。

参考文献:
[1]Whittle, P. (2010). Neural nets and chaotic carriers (Vol. 5). Imperial College Press.