Нейроны
Основная аналогия между аппаратными и биологическими структурами проводится на клеточном уровне. Обрабатывающие элементы однослойных и многослойных персептронов могут быть сопоставлены отдельным нейронам, поскольку именно изучение нейронов привело к созданию данной модели.
Первоначальный замысел создания искусственных нейронных сетей зародился в результате изучения зрительной коры, которая относится к затылочным долям мозга. Персептрон Розенблатта фактически оказался моделью связей, идущих от сетчатки к мозгу.
Как уже было сказано, основной отличительной особенностью многослойного персептрона является наличие дополнительных скрытых элементов.
Функция активизации вычисляет выходное значение каждого элемента с учетом результирующей суммы. Находят свое применение функции активизации многих типов. Но следует помнить, что линейные функции активизации вообще не могут использоваться в промежуточных слоях!
Наконец, мы должны рассмотреть еще одно свойство топологии, которое определяется связями между элеменга\ш. Во многих случаях все элементы, относящиеся к соседним слоям, связаны друг с другом.
Применительно к персептронам с двумя входами поверхность решений представляет собой прямую линию (т.е.
Структура многослойных персептронов была разработана на основе структуры их предшественников, состоящих из одного слоя элементов. Два основных различия между многослойными и однослойными персептронами описаны ниже.
Для моделирования ошибок указанных типов используется математическая функция, которая выражает действительно достигнутый угол поворота в терминах желаемого угла и предыдущего угла.
Процедура обучения сводится к тому, что для получения требуемой нейронной сети осуществляется оптимизация весовых коэффициентов. По существу, цель процедуры обучения состоит в удовл'етворении целевой функции. Целевая функция определяет качество сети на основании метрики высокого уровня.
Метод моделирования отжига представляет собой еще о,іщн простой и относительно эффективный метод поиска решения задачи оптимизации. В отличие от предыдущих методов, в этом методе не учитываются градиенты, хотя на практике для повышения эффективности метода может использоваться информация о наклоне кривой.