Metal Gear

Для корректировки значений весовых коэффициентов чаще всего используется дельта-правило. Ниже приведены основные соображения, лежащие в основе применения дельта-правила.
> Каждый весовой коэффициент вносит свой вклад в формирование выходного значения.
> Значимость этого вклада зависит от входного значения.
> Рассогласование между действительным и требуемым значениями выхода может быть устранено путем корректировки весовых коэффициентов.
Для уменьшения рассогласования требуется проводить настройку выходного значения так, чтобы оно приближалось к идеальному. Для этого можно использовать способ, основанный на внесении множества небольших поправок в значения весовых коэффициентов (поскольку входные значения нам неподвластны). Поправки могут распределяться пропорционально вкладу отдельных весовых коэффициентов; чем больше вклад весового коэффициента в погрешность, тем больше поправка!
Закончив это неформальное объяснение основ метода, перейдем к изучению практически применимого подхода. Прежде всего отметим, что с использованием разности между фактическим выходным значением у и желаемым выходным значением t можно вычислить относительную погрешность Е. Применяемая для этого функция известна под названием функции ошибок, которая обычно принимает
форму Е = 2* (t-y). Такая форма функции основана на использовании выражения для так называемой минимальной среднеквадратичной ошибки (Least Mean Square — LMS). Из того, что используется квадрат разности t-y, следует, что погрешность может иметь одну и ту же величину, независимо от того, является ли выходное значение слишком большим или слишком малым. В идеале погрешность должна достичь нуля, а назначение алгоритма обучения состоит в том, чтобы достичь как можно более низкого значения погрешности.