Нейронные сети и ассоциативная память



Одним из ключевых понятий в исследованиях устройства человеческой памяти является понятие ассоциации, а также связанная с ним ассоциативная память. Что же это такое?

Ассоциативная память

Как известно, более 95% информации, получаемой человеком через органы чувств, отсеивается как ненужная и бесполезная. Но при этом, иногда, какая-либо информация, не являющаяся существенной на данный момент, может вызвать отклик в мозгу из-за ассоциации с каким-то моментом в памяти — схожести погоды, запаха, да чего угодно. Именно это и называется ассоциативная память. На первый взгляд, ценность её для искусственного интеллекта не особо велика — придаваться воспоминаниям не особо полезно, особенно по сравнению с другими видами деятельности. Но, вполне возможно, для машин ассоциативная память может играть намного большую и более полезную роль, чем для человека.



Хорошим примером работающей, и работающей довольно хорошо ассоциативной памяти в искусственной нейронной сети, является сеть Хопфилда — статичная сеть с определенным количеством входных и выходных данных, число которых равно друг другу и постоянно. Причем, данные в определенной переменной всегда имеют какой-либо смысл (например, физический), и если во входных данных третья переменная по смысла представляет из себя время, то третья переменная в выходных данных так же по смыслу должна являться мерой времени. Так же, сеть Хопфилда является бинарной — значения входов и выходов могут быть либо -1, либо 1. Так же важно учесть, что данная сеть является полно связной, то есть каждый нейрон связан со всеми остальными.



Таким образом, сеть Хопфилда не просто использует ассоциативную память в помощь при работе или обучении — она полностью функционирует на одних лишь принципах ассоциативной памяти, и ничего больше. Общая постановка задачи, решаемой при обучении сети Хопфилда, такова: есть определенное количество эталонных образцов (векторов), хранимых в памяти. На вход подается определенный вектор, в общем не соответствующий ни одному из идеальных — такой вектор называется зашумленным, и сети необходимо найти наиболее близкий к данному вектору вариант из идеальных образцов.



Именно таким образом и работает ассоциативная память — на совпадении какого-то числа переменных, всплывает образ, в чем-то похожий на настоящий момент. Сеть Хопфилда, хоть и не является идеальной или даже лучшей из современных искусственных нейронных сетей, нашла свое применение в распознавании текста и естественной речи, что говорит об огромном потенциале ассоциативной памяти у искусственного интеллекта.

Узнать подробнее.






Комментариев пока нет!

Поделитесь своим мнением

Сумма: код подтверждения