Помогите разобраться с нейронными сетями. Нашел в интернете много статей, но во всех них используются «сухие» понятия и сложные формулы, а конкретных для понимания примеров очень мало.
Хотелось бы, чтобы нейронная сеть понимала, что 3+2=5 . Для этого нужно обучить ее. И вот тут возникают вопросы, как происходит процесс обучения. Может кто-нибудь объяснить это на данном примере. Заранее спасибо.

mad_nazgul,
Вот как раз эта часть мне и непонятна.
Получается, есть 2 переменные: a и b. Каждая переменная может принимать какое-нибудь конкретное значение (входные данные), по которым идет процесс обучения.
a=2; b=4; result=6
a=2; b=3; result=5
a=2.5; b=3; result=5.5
После многократного поступления входных данных, система просто должна определить, что, например, для a=3 и b=2 наиболее частый результат это 5.5. Получается, система обучилась, что 3+2=5.5?
После такого обучения сеть должна быть самообучаема, т.е. при поступлении нового входного значения, например: a=3; b=2; result=4.5, какое значение сеть будет считать результатом 3+2? Последние входные данные как-то ведь должны повлиять на обучаемость - как в этом случае опять должен происходить процесс обучения? Должны учитываться все более ранние входные данные + последнее и на основе его будет браться самый часто встречаемый результат или условие, полученное при раннем обучении (3+2=5.5) + последние данные (3+2=4.5) и будет браться что-то среднее между 4.5 и 5.5?

mad_nazgul,
По идее, даже я не должен знать, что 3+2=5, т.к. это не очевидно (может зависеть от системы счисления).
На примере капчи, можно просто задать, что если a=3 и b=2, то результат всегда 5. А система должна учиться, и основываться на ответах, которые даются при проверке капчи. Т.е. если при проверки капчи чаще всего дается ответ 5, то он более правильный – в качестве учителя здесь выступают те, кто дает ответ.

mad_nazgulGuest_neural_netmad_nazgul,
По идее, даже я не должен знать, что 3+2=5, т.к. это не очевидно (может зависеть от системы счисления).
На примере капчи, можно просто задать, что если a=3 и b=2, то результат всегда 5. А система должна учиться, и основываться на ответах, которые даются при проверке капчи. Т.е. если при проверки капчи чаще всего дается ответ 5, то он более правильный – в качестве учителя здесь выступают те, кто дает ответ.

Во время обучения подсовывая системе капчи вы ("учитель") должны знать что 3+2=5.
Это уже после обучения, система должна понимать образ это "3+2" или что-то другое.

Кроме того. Система может и не знать, что а=3 и b=2. Она "знает", что на образ "3+2" нужно дать ответ 5.
Для того, чтобы система могла понимать, что а=3, а b=5, и операция "+". Система должны уметь "вычленять" образы.
Т.е. нужно ее "обучить", что образ "3" это 3, образ "2" это 2, а образ "+" это операция "+".
Кроме того, ее нужно "обучить", что с этими образами нужно проделать определенные манипуляции, чтобы получить 5 если эти образы расположены в определенном порядке.
Данная задача в общем случае еще не решена (точнее совсем не решена).
Т.е. научить, что "3+2" это 5 еще можно, то что для определенных образов существует образ, который позволяет ими манипулировать - нет.

Забудьте, чему вас учили при программировании.
При работе с нейронными сетями нет тех абстракций, про которые вы говорите.
Есть только образ на входе и результат на выходе + обратная связь.

Представьте, что вы дрессируете таракана, который при показе картинки "3+2" должен подбежать к картинке с "5".
Где-то так. :-)

Это я все понимаю.
Я просто веду к тому, что результат 5 не очевидный. Обучающая система исходя из «своего видения мира» и основываясь на «общественном мнении» пользователей, получаемом при проверке капчи, в какой-то момент времени может считать, что 3+2=6. Возможно, это неправильно, но на основе имеющихся входных данных, в какой-то момент времени это может являться правдой.
Самый просто пример из мира людей – Земля вертится вокруг Солнца или Солнце вокруг Земли? Раньше все считали, что Солнце вокруг земли и это было «правильно». Любого, кто мыслил иначе, просто сжигали. Получается, на то время, в общем сознании людей, правильный ответ был бы «Солнце вокруг Земли». Сейчас мы по «новым» имеющимся данным считаем, что «Солнце вокруг Земли».
Т.е. я один не могу выступать в качестве учителя, потому что, если бы я плохо учился, я мог бы думать, что 3+2=10. С моей точки зрения это было бы истиной, но на самом деле народ считает, что правильный ответ 5, и с этим не поспоришь :)
Результат «5» в действительности не известен никому, он находится путем коллективного «опроса», как при маркетинговом исследовании.

mad_nazgul, спасибо за ответы, теперь появилось больше понимания о нейронных сетях и методах их обучения. А может есть какие-нибудь книги или ссылки, в которых наглядно объясняются нейронные сети, без заумных формул?