Емкость сети

Актуальным предметом изучения остается максимальное количество запоминаемой информации, которое может храниться в сети Хопфилда. Так как сеть из

$Емкость сети$

двоичных нейронов может иметь

$Емкость сети$

состояний, то исследователи были удивлены, обнаружив, что максимальная емкость памяти оказалась значительно меньшей.

Если бы удалось закрепить в памяти большое количество информационных единиц, то сеть не стабилизировалась бы на некоторых из них. Более того, она могла бы помнить то, чему ее не учили, т. е. могла стабилизироваться на решении, не являющемся требуемым вектором. Эти свойства ставили в тупик первых исследователей, которые не имели математических методов для предварительной оценки емкости памяти сети.

Последние результаты пролили свет на эту проблему. Например, предполагалось, что максимальное количество запоминаемой информации, которое может храниться в сети из

$Емкость сети$

нейронов и безошибочно извлекаться, меньше чем

$Емкость сети$

, где

$Емкость сети$

— положительная константа, большая единицы. Хотя этот предел и достигается в некоторых случаях, в общем случае он оказался слишком оптимистическим. Было экспериментально показано, что предельное значение емкости обычно ближе к

$Емкость сети$

. Также, по новейшим данным, число таких состояний не может превышать

$Емкость сети$

, что согласуется с наблюдениями над реальными системами и является наилучшей на сегодняшний день оценкой.

Содержание раздела

Главная сайта