Изучение векторного квантования

Алгоритм обучения векторному квантованию

Обучение векторному квантованию связано с самоорганизующейся картой, которая, в свою очередь, основана на самоорганизующихся способностях нейроны в зрительной коре.

Целью обработки информации алгоритма обучения векторному квантованию является подготовка набора векторных кодовых книг (или прототипов) в области наблюдаемых выборок входных данных и использование этих векторов для классификации необработанных примеров. Первоначально подготавливается случайный пул векторов, который затем подвергается воздействию обучающих выборок.

Стратегия «победитель получает все» используется, когда один или несколько векторов, наиболее похожих на заданный входной шаблон, выбираются и корректируются, чтобы быть ближе к входному вектору, а в некоторых случаях дальше от победителя для финалистов. Повторение этого процесса приводит к распределению векторов кодовой книги во входном пространстве, которое аппроксимирует базовое распределение выборок из тестового набора данных.

Алгоритм обучения векторному квантованию — это метод обработки сигналов, в котором функции плотности аппроксимируются векторами-прототипами для таких приложений, как сжатие. Обучение векторному квантованию в принципе похоже, хотя векторы-прототипы изучаются с помощью контролируемого метода «победитель получает все».

Следующий алгоритм обеспечивает псевдокод для подготовки векторных кодовых книг с использованием метода обучения векторного квантования. Векторы кодовой книги инициализируются небольшими значениями с плавающей запятой или выбираются из доступного набора данных. Единица наилучшего соответствия (BMU) — это вектор кодовых книг пула, который имеет минимальное расстояние до входного вектора. Должна быть определена мера расстояния между входными шаблонами. Для векторов с действительными значениями это обычно евклидово расстояние:

алгоритм обучения векторному квантованию

где n — количество атрибутов, x — входной вектор, а c — заданный вектор кодовых книг.

алгоритм обучения векторному квантованию

Квантование векторов обучения было разработано для задач классификации, содержащих существующие наборы данных, которые можно использовать для наблюдения за обучением системой. Алгоритм не поддерживает задачи регрессия. LVQ непараметрический, что означает, что он не полагается на предположения о структуре функции, которую он аппроксимирует. Реальные значения во входных векторах должны быть нормализованы таким образом, чтобы x находился в [0; 1].

Евклидово расстояние обычно используется для измерения расстояния между векторами с действительными значениями, хотя могут использоваться и другие меры расстояния (например, скалярное произведение), а для атрибутов, а не скаляров, могут потребоваться меры расстояния для конкретных данных. Должно быть достаточное количество итераций обучения, чтобы все обучающие данные отображались в модели несколько раз. Скорость обучения обычно линейно уменьшается в течение периода обучения, начиная с начального значения, близкого к нулю. Чем сложнее распределение классов, тем больше потребуется векторов кодовой книги, для некоторых задач могут потребоваться тысячи.

Несколько проходов алгоритма обучения LVQ предлагаются для более надежного использования, где первый проход имеет высокую скорость обучения для подготовки векторов кодовой книги, а второй проход имеет низкую скорость обучения и выполняется в течение длительного периода (возможно, в 10 раз больше итераций). .

Делиться
ru_RURU