Процедура обучения сводится к тому, что для получения требуемой нейронной сети осуществляется оптимизация весовых коэффициентов. По существу, цель процедуры обучения состоит в удовл'етворении целевой функции. Целевая функция определяет качество сети на основании метрики высокого уровня. При этом либо измеряется производительность на многочисленных примерах, либо просто осуществляется сравнение суммарных корректировок весовых коэффициентов с некоторым пороговым значением. Целевая функция, в основном, применяется для определения того, закончен ли процесс обучения.