Metal Gear

Персептроны с одним слоем элементов, связанных соединениями (обозначенными весовыми коэффициентами), позволяют справляться только с линейными задачами, а решение сложных задач с помощью однослойных персептронов требует грубой аппроксимации. Указанный недостаток однослойных персептронов принято называть проблемой нелинейности, в связи с этим могут оказаться слишком затруднительными даже сами попытки использования однослойных персептронов. А иногда практически исключается также возможность применить их для линейной аппроксимации.
Эти недостатки персептронов отчасти признавали даже сами впервые предложившие их ученые, но Минский (Minsky) и Пейперт (Papert) объяснили, чем обусловлены ограничения в методах моделирования на основе персептронов, в своей книге Perceptrons, изданной в 1969 году . Эти ученые показали, что при использовании персептронов для решения задач высокого порядка возникают проблемы. В частности, персептроны не позволяют решать уравнения, которые имеют порядок больше единицы (превышающие по своей сложности линейные задачи).
В книге Perceptrons было показано, что для обеспечения возможности решения задач более высокого порядка во всем пространстве должен поддерживаться по крайней мере один частичный предикат. С точки зрения реализации персептрона это означало, что со всеми входами должен быть связан по меньшей мере один промежуточный элемент. В персептронах это ограничение, "определяющее порядок задачи", нарушается, и в этом состоит причина, по которой персептроны не способны справляться с задачей распознавания нелинейных образов.
В дальнейшем Минский и Пейперт выдвинули предположение, что с задачей распознавания образов высокого порядка не позволяют справляться даже элементы, соединенные в виде нескольких слоев, связи между которыми обозначены весовыми коэффициентами (подобные структуры принято называть каскадными линейными сетями), но они не смогли доказать это утверждение. В действительности решение нелинейных задач остается невозможным до тех пор, пока для этого применяются элементы с линейной функцией активизации.
Розенблатт (Rosenblatt) уже пытался устранить этот недостаток в одном из своих проектов первых персептронов, применяя булевы функции активизации (которые являются нелинейными), но не смог найти способ обучения всей системы. Под влиянием всех этих неудач финансирование разработок в области персептронов было прекращено, и многие исследователи перешли в альтернативную область разработок, связанную с применением символических средств ИИ.