powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Программирование [игнор отключен] [закрыт для гостей] / Как живой нейрон ищет оптимальные веса дендридов?
24 сообщений из 24, страница 1 из 1
Как живой нейрон ищет оптимальные веса дендридов?
    #35647802
private
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Привет! Хотелось бы понять:
Как живой нейрон ищет оптимальные веса дендридов?

И второе, на мой взгляд, существующая модель нейрона и нейросети теряет ряд принципиальных свойств оригинала. Хотелось бы услышать что вы думаете по этому вопросу и если есть ссылки на работы по построению более точной модели (можно на англ).

Под существующей я понимаю суммирование с весами и затем нормализацию с помощью сигма-функции output = sigma(sum(input(i)*weight(i))).

Неточности:
- Алгоритм обучения вынесен вовне сети (генетические алгоритмы поиска, ...). В оригинале нейрон самостоятельно ищет оптимальные веса дендритов и каким-то образом определяет какие оставить а какие нет.

- Сеть - динамическая структура, процессы которые в ней протекают являются функциями времени (запаздывание, сравнение с предыдущим сигналом, ...), а искуственная нейросеть считается полностью определенной матрицей весовых коэффицентов.

- При обучении сети целевая функция вынесена во вне и внешний учитель вычисляет разницу между желаемым и получаемым и управляет обучением.
В мозге, возможно, что "целевая функция" "размазана" по множеству нейронов, и как таковой физической "разницы" там может не быть.
В общем случае ей может быть например желание нейрона оставаться в состоянии покоя (это я взял с потолка). Например нейрон отвечает за болевые ощущения, если больно - ему приходит сообщение он начинает менять веса дендритов, стремясь снова вернуться в состояние покоя. И менясь сам он также генерирует кучу сообщений другим нейронам, которые в ответ тоже начинают менятсья стремясь сохранить свое состояние покоя.
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35647822
Фотография Урановая Совесть
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Йопт, и сюда извращенцы валят.
Я то думал, в универе прошло и забыли, а оказывается есть "студентики"

...
Имдлаар нефскритто прогруммаир туаррос ситтре аппокомоур (;,;)
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35647876
private
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Йопт, тупизна тебе к лицу ;).

Модератор:
предупреждение.
Урановую Совесть тоже касается
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35647919
Фотография mayton
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Очень сложно вести дискуссию, когда ты задав вопрос сам тут-же на него пытаешься ответить.
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35649017
privateПривет! Хотелось бы понять:
Как живой нейрон ищет оптимальные веса дендридов?
А что, Хебб, по-твоему, свои правила для компа формулировал? Он жеж психолог был, еще и биологией увлекавшийся. Так что - так и ищет, здесь нейросети ничего нового для природы не придумали.

privateИ второе, на мой взгляд, существующая модель нейрона и нейросети теряет ряд принципиальных свойств оригинала. Хотелось бы услышать что вы думаете по этому вопросу и если есть ссылки на работы по построению более точной модели (можно на англ).
Да, теряет. Ситуация с архитектурами нейросетей еще хуже: они еще дальше от "оригиналов", чем технический нейрон от биологического. Работы в направлении приближения к биологической модели ведутся, но ссылок дать не могу, не слежу за этим, а найти что-то сложно - слишком мало работ.

privateПод существующей я понимаю суммирование с весами и затем нормализацию с помощью сигма-функции output = sigma(sum(input(i)*weight(i))).
Нда, а как же РБФ-сети? Или сети Хопфилда? Модель технического нейрона не ограничивает вид активационной характеристики.

privateНеточности:
- Алгоритм обучения вынесен вовне сети (генетические алгоритмы поиска, ...). В оригинале нейрон самостоятельно ищет оптимальные веса дендритов и каким-то образом определяет какие оставить а какие нет.
Алгоритмы обучения бывают разные, в том числе и близкие к "оригиналу".

private- Сеть - динамическая структура, процессы которые в ней протекают являются функциями времени (запаздывание, сравнение с предыдущим сигналом, ...), а искуственная нейросеть считается полностью определенной матрицей весовых коэффицентов.
Сдается мне, из всего многообразия нейросетей вы удосужились изучить только многослойные; так вот, это не так)) МНС - одна из самых изученных и используемых, но в то же время и самых убогих архитектур нейросетей.

private- При обучении сети целевая функция вынесена во вне и внешний учитель вычисляет разницу между желаемым и получаемым и управляет обучением.
Ну да, все про одно и то же)) А есть еще сеть Кохонена, а еще персептрон Розенблатта, и нет там вообще никаких целевых функций.
Обучение бывает не только с учителем, но и с критиком и вообще самостоятельное.
Беда абсолютного большинства критиков нейронных сетей в том, что они сужают эту теорию до МНС+обратного_распространения.
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35649101
self-fix
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
сейчас_придет_c127_и_все_опошлит А есть еще сеть Кохонена, а еще Хемминга , и нет там вообще никаких целевых функций.
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35649660
private
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
авторРаботы в направлении приближения к биологической модели ведутся, но ссылок дать не могу, не слежу за этим, а найти что-то сложно - слишком мало работ.IBM Blue Brain – симуляция работы ячейки (Cortical column) мозга ~ 10 000 процессоров моделируют ~ 10 000 нейронов, гигабайты данных в секунду. Но я поискал, что они используют, оказалось – довольно древнюю программу для симуляции. Пока не слышно чтобы что-то интересное получили.

авторА есть еще сеть Кохонена, а еще Хемминга, и нет там вообще никаких целевых функций.Насколько я понимаю, это специальный класс сетей для решения специального класса задач. Т.е. они созданы, чтобы решать некоторые специфичные задачи, а не для того чтобы максимально приблизиться к своим живым универсальным оригиналам.

Понимаю, что разновидностей сетей много, и алгоритмов обучения тоже много. Мне интересно, есть ли модель которая максимально приближена к биологической?

авторАлгоритмы обучения бывают разные, в том числе и близкие к "оригиналу".
Какие? Я не нашел в интернете описания, как живой нейрон обучается, потому и спросил.

авторавтор
Под существующей я понимаю суммирование с весами и затем нормализацию с помощью сигма-функции output = sigma(sum(input(i)*weight(i))).
Нда, а как же РБФ-сети? Или сети Хопфилда? Модель технического нейрона не ограничивает вид активационной характеристики.Я взял самый общий вид чтобы показать что вообще имею ввиду. Дело не столько в активационных функциях сколько в обучении и динамике во времени.
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35649704
private
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Меня смущает то, что живой нейрон автономен и самодостаточен и вся эта хитрая машинерия по обучению и т.д. в нем "инкапсулирована".
А в искуственных используются даже не аналогии а совершенно "надуманные" стратегии. И не только эволюционные внешние алгоритмы, но и в тех-же приведеных примере сетей Кохонена, сомневаюсь что мозг работает также. Это конечно может быть и интересная и важная задача, но вопрос то в другом.
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35650412
Пользователь
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
private он начинает менять веса дендритов
а разве не проходит самый простой и тривиальный алгоритм:
- запоминаются пути (толще становятся), по которым чаще всего бегут сигналы
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35650523
private
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
А если получится положительная обратная связь? они что-же так и будут по кругу гонять сигналы становясь все толще и толще?
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35650524
private
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Я тоже такое читал вкратце но так и не понял как это работает, в гугле что-то не нашел ничего интересного ...
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35650572
Не надо петь пестни. Работа мозга -- это чистый перебор.
Перебор тупых комбинаций. Ничего выше этого нет. Знание невозможно получить из ничего.
В этом смысле, человек, homo sapiens, -- это ужасно тупая машина. Я сто раз писал : как мои кошки
решают квадратные уравнения? Я до сих пор куею с их способностей. Сидит (решила прыгнуть), коготки туда-сюда подтягивает (типа решает уравнение), а потом прыг! И ни лишнего микрона!
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35650590
Я с них куею (а у меня их докуищи; я всех этих живых тварей подбираю и ращу)
Не просто так првгают, а по наикратчайшему расстоянию. Возьмем, к прмеру, Карамельку. Сантиметров 15
Первый раз я окуел : как? как? она попала на холодильник?
Потом увидел : она по шторе. И причем по такой совершенной схеме.
Ей просто по ее детской наивности повезло. А вот зачем взрослые кошки *готовятся* к прыжку?
Квадратное уравнение можно решить за микросекунды. У них что там, бинарный поиск что-ли?
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35650889
Фотография mayton
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Балансируют хвостом ИМХО.

ЗЫ. Бретанские ботаники до сих пор не поймут как оно прыг. на 4 лапы всегда...
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35651343
zloy den
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
maytonБалансируют хвостом ИМХО.

ЗЫ. Бретанские ботаники до сих пор не поймут как оно прыг. на 4 лапы всегда...

про ботаников-хорошо. З.Ы. Далеко не всегда на 4 лапы, если серьезно
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35651649
Тот ЕН ХЕМ
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
maytonБалансируют хвостом ИМХО.

ЗЫ. Бретанские ботаники до сих пор не поймут как оно прыг. на 4 лапы всегда...
а вот как балансировать хвостом..... это я сразу пас, как это рассчитывать.
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35652014
ф
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ф
Гость
И это правильно : давайте помнить Фиббоначи, Декарта, и пр. Мы -- по сравнению с ними просто убогие детишки
Взять Декарта -- какой-то гондон , поебень из хранцузской армии, но что он сделал для людей это пипец.
Вот были люди, я бы сказал. Или Виктор Михайлович Глушков. Очень обидно что этого гения мало кто помнит. Это такая эпоха, такие люди
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35652250
Пользователь
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
privateА если получится положительная обратная связь? они что-же так и будут по кругу гонять сигналы становясь все толще и толще?
- это называется сумашествие (или тремор)
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35652941
Фотография mayton
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
вппмейтон, зацени мои сабмиты к https://www.spoj.pl/problems/DEFEND/:
Классно, Гарри, а зачем это? (с) Lock Stock and Two Smoking Barrels
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35653066
private
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Походу кто-то из дурдома сбежал ...

Как кошка вычисляет, прыгает и балансирует, отчасти понятно. Кому интересно - ищите "Теория Управления", "Пространство состояний", "Управляемость", "Наблюдаемость", "Оптимальное Управление", "Матричные операторы", и еще куча всего.
И решает она кстати не квадратное уравнение, а нелинейное дифференциальное уравнение энного порядка.
Как построить из нейронов "решатель" таких уравнений, насколько я знаю уже давным давно известно, ничего секретного тут нету.

И очень-очень-очень во многом благодаря работам в этой области мы раньше(сейчас уже нет, ни в теории ни в вооружении) держали первенство в космонавтике и в ракетостроении.

Но все это не имеет абсолютно никакого отношеня к тому как работает мозг.
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35653748
ф
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ф
Гость
privateПоходу кто-то из дурдома сбежал ...

Как кошка вычисляет, прыгает и балансирует, отчасти понятно. Кому интересно - ищите "Теория Управления", "Пространство состояний", "Управляемость", "Наблюдаемость", "Оптимальное Управление", "Матричные операторы", и еще куча всего.
И решает она кстати не квадратное уравнение, а нелинейное дифференциальное уравнение энного порядка.
Как построить из нейронов "решатель" таких уравнений, насколько я знаю уже давным давно известно, ничего секретного тут нету.

И очень-очень-очень во многом благодаря работам в этой области мы раньше(сейчас уже нет, ни в теории ни в вооружении) держали первенство в космонавтике и в ракетостроении.

Но все это не имеет абсолютно никакого отношеня к тому как работает мозг.
Скинь сюда код под задачу на моей ссылке. Проверим.
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35653754
ф
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ф
Гость
maytonвппмейтон, зацени мои сабмиты к https://www.spoj.pl/problems/DEFEND/:
Классно, Гарри, а зачем это? (с) Lock Stock and Two Smoking Barrels

давай глядеть ширшее : зачем вообще что-то нужно?
...
Рейтинг: 0 / 0
Как живой нейрон ищет оптимальные веса дендридов?
    #35660370
privateBlue Brain – симуляция работы ячейки (Cortical column) мозга ~ 10 000 процессоров моделируют ~ 10 000 нейронов, гигабайты данных в секунду. Но я поискал, что они используют, оказалось – довольно древнюю программу для симуляции. Пока не слышно чтобы что-то интересное получили.
При чем тут кол-во процессоров? Речь о (не)похожести модели технического нейрона на реальный биологический нейрон, какие-то там эксперименты тут ни при чем, это чисто теоретический аспект ТНС.

privateНасколько я понимаю, это специальный класс сетей для решения специального класса задач. Т.е. они созданы, чтобы решать некоторые специфичные задачи, а не для того чтобы максимально приблизиться к своим живым универсальным оригиналам.
Ты думаешь, что ты можешь думать рукой? А там же есть дендриты!
В том смысле - с чего ты взял, что биологические нейронные сети якобы не ориентированны на специальные классы задач? Я не утверждаю, что это не так, просто, насколько мне известно, никто этого не знает.

privateПонимаю, что разновидностей сетей много, и алгоритмов обучения тоже много. Мне интересно, есть ли модель которая максимально приближена к биологической?
Про правила Хебба и как они получены уже почитал?
Обратное распространение ошибки, кстати, на них весьма похоже по своей сути, только сильно "математизировано".

privateКакие? Я не нашел в интернете описания, как живой нейрон обучается, потому и спросил.
Ну, вообще говоря, точно этого никто и не знает)) а я "оригиналом" назвал наиболее распространенные гипотезы нейробиологов.
Гугл в помощь, например вот тут более сведущие люди общаются: http://forum.neuroscience.ru/archive/index.php/t-977.html

privateЯ взял самый общий вид чтобы показать что вообще имею ввиду. Дело не столько в активационных функциях сколько в обучении и динамике во времени.
Какой он, нафиг, самый общий? Я об том и говорю, что ты взял самый частный из всех возможных частных случаев, отвратительно ограниченный и ничем не обоснованный.
Ладно бы активно изучались и использовались не-сигмоидальные АХ, так ведь еще более перспективны стохастические, тут вообще самая ссссуть меняется.
...
Рейтинг: 0 / 0
Период между сообщениями больше года.
Как живой нейрон ищет оптимальные веса дендридов?
    #36515784
b099ard
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Если ты программер и тебя интересуют нейроны, отпиши мне:
b099ard at mail . ru
...
Рейтинг: 0 / 0
24 сообщений из 24, страница 1 из 1
Форумы / Программирование [игнор отключен] [закрыт для гостей] / Как живой нейрон ищет оптимальные веса дендридов?
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]