Мы несколько лет проходили в университете динамические системы, дифф уравнения, стохастические процессы - и все это казалось каким-то адовым бредом.

А оказывается - дифф ур - если выкинуть всю заумь из учебников - это весьма простая и прикольная вещь - это штуки которые описывают процессы которые меняются маленькими шажками, например по времени, как курс акций. Например вот стохастический процесс. Формула одна строчка, пара линий чтобы создать на программе. А попробуй отличи что это не настоящий курс акций.







Сейчас пересматриваю университетскую программу, но уже с другой точки зрения.

Одна из задач - найти компактную аппроксимацию курса акций за 30 лет. Я не знаю как это точно сказать - базис функций, представить это как какую-то систему и т.п. Но - она должна учитывать что у курса акций бывают тренды, повторяющиеся сезонные моменты типа дивидендов или налогов, и т.п. В качестве меры ошибки - можно использовать максимум разницы за 30 лет между аппроксимацией и реальным курсом (максимум, не суму квадратов L2).

Т.е. получается какая-то сложная функция которую не представить ни полиномами, ни синусоидами по отдельности.

Эту аппроксимацию можно будет использовать во-первых чтобы компактно и просто представить скажем топ 100 акций sp500 за последние 30 лет. И в дальнейшем генерировать всевозможные случайные реализации с такими-же параметрами. Получится что-то типа автоэнкодера.

Что-то типа автоэнкодера - в смысле попытаться найти компактное представление, с хорошей точностью описывающее процесс.

Например - у компаний бывает квартальная отчетность, она добровольная, кто-то ее делает кто-то нет, даты тоже точно нет, плюс-минус десять дней туда сюда каждый квартал. И часто по результатам этих отчетов, после публикации - цены либо падают, либо вырастают, либо не меняются.

По идее - алгоритму надо будет скормить СП500 - и он должен каким-то боком определить что существует событие случающееся (не всегда) 4 раза в году, определить примерный диапазон дат которые бывают и т.п.

Или скажем компания репу выращивает, садит весной, копает летом, продает осенью - прибыль осенью, каждый осень рост акций - алгоритм должен как-то понять что у компании есть сезонность.

автор...Поэтому история курса незначительно определяет его будущее

Не согласен. Можно сравнить стабильный Макдональдс, либо быстро-растущий Нвидиа (уже быстро падающий, но год назад он был растущим). Сделать предсказание t+1 значения за последние лет 10 - посчитать ошибку - почти наверняка будет хорошее предсказание по макдональдсу, он даже в кризисы не проваливался. И хуже по Нвидиа. Т.е. по истории одной только волатильности можно сделать некие вывод о будущем компании.

Вобщем изучал материалы несколько дней, пока буду заниматься цепями Маркова и Монте-Карло, оказывается это популярная тема, очень много информации по ним. посмотрю что получается на простых экспериментах, и затем перейду к CNN для числовых рядов.

Нашел классный курс, если кому нужно https://lectures.quantecon.org/jl/

Автоэнкодер - я могу его собрать, но это пока действительно слишком сложно. Математику - боль менее осваиваюсь, я не говорил что плохо знал ее, просто в университете это была какая-то совершенно бессмысленная ерунда - ты собрал какую-то конструкцию, все сдал, и благополучно забыл и выкинул ее не понимая ни что это за конструкция ни какая от нее польза.

авторВ своих предсказаниях ты почему-то не учитывешь такую значимую переменную, как "административное воздействие на цену". Вот щас там презик ввёл пошлины Китаю, так весь юговосточноазиатский валютный рынок просел.

Учитываю. Я поклонник Торпа и Талеба. Предсказать их я не смогу, поэтому буду учитываю за счет допущения таких событий и потерь по ним и ограничения этих потерь.

авторСтартовый вопрос не ясен. Неясна связь дифуров с одномерной регрессией 1-го порядка (что на рисунке).

авторA stochastic differential equation (SDE) is a differential equation in which one or more of the terms is a stochastic process, resulting in a solution which is also a stochastic process. SDEs are used to model various phenomena such as unstable stock prices or physical systems subject to thermal fluctuations.

авторРискну предположить что автору нужна не аппроксимация а прогнозирование. Это другая задача ИМХО.

Это связанные задачи. Чтобы прогнозировать процесс - нужно понимать его природу. Например сделать декомпозицию - выявить тренды, периодичности, и случайную составляющую временного ряда.

Затем ты можешь использовать эту модель для разных задач, например чтобы сгенерировать всевозможные варианты и проверить какие риски - какие потери могут быть в наихудшем случае. Можешь использовать для поиска интересных закономерностей, похожих вариантов - когда у тебя компактное представление - гораздо проще найти похожие компании. И да, можешь еще использовать для прогноза.

Прогноз - лишь малая часть того что нужно. Как верно заметил товарищ выше - проблема которую не решает прогноз - это невозможно учесть редкие непредсказуемые события, они будут. И что хуже - эти события нелинейны, можно выиграть 9 раз из 10 и проиграв лишь раз все потерять. Поэтому прогноз тоже будет, но это не главное. Главное - создать простую модель того что происходит на рынке, чтобы была возможность прогнать симуляции, оценить риски, проверить модель на поведение в непредсказуемых ситуациях.

авторбез всяких намёков на собственно функционирование рынка в его бизнес-смысле.
Да, задача математическая, без бизнес смысла. Интересны только показатели которые можно измерить в цифрах и скормить модели. Никаких других входных данных не интересны.

авторСтартовый вопрос не ясен. Неясна связь дифуров с одномерной регрессией 1-го порядка (что на рисунке). Просто объявить, что возникли такие мысли? Ну, лучше поздно, чем никогда. Судя по всему такие мысли возникают не от хорошей зарплаты. Коли есть время, попробуй - чему-нить научишься.

Про диффуры я ответил в сообшении выше. Что такое одномерная регрессия 1 порядка? Линейная регрессия? Если так - то как ты собираешься аппроксимировать график истории 20 лет цен акций микрософта линейной регрессией, особенно периодические и сезонные события?

Есть еще один момент - прогноз, его хоть и можно измерить ошибку, это как-то не так наглядно, да у тебя есть ошибка - число, но оно не дает ощущения что там происходит.

Совсем другое дело когда ты пытаешься повторить весь график, всю форму - сразу видно получается что-то или нет.

Еще момент почему интересно именно повторение прошлого, а не будущего. Например - работа с текстом - имея предыдущие N букв - надо предсказывать N+1 букву.

Их можно анализировать по ошибке, но это не дает понимания что там происходит, их потом все-равно анализирует человек чтобы понять - реально получилось что-то близкое к реальности или нет. Дают такой нейросети кусок предложения и просят продолжить - и смотрят что получилось, какой-то шум или реально похоже на нормальный текст.

Но с графиками цен - у нас нет такой возможности, мы смотрим на прогноз цены - и не понимаем это что-то осмысленное или просто шум. Поэтому прогноз цены сложно оценивать, а так - ты попытался повторить всю историю - и либо смог либо нет, по форме сразу видно как получилось.

авторавторНо с графиками цен - у нас нет такой возможности, мы смотрим на прогноз цены - и не понимаем это что-то осмысленное или просто шум. Поэтому прогноз цены сложно оценивать, а так - ты попытался повторить всю историю - и либо смог либо нет, по форме сразу видно как получилось.

прогноз собственно и тестят на исторических данных
берут начальный кусок - строят модель и оценивают как сходятся продолжение данных и прогноз из модели

Это понятно - я же написал - мы прогоним по историческим данным и получим некое число - ошибку прогноза. Проблема в том что мы не можем как "эксперт" оценить его.

Например - в обработке текста - при моделировании используется прогноз следующей буквы по предыдущим. И ты тоже можешь посчитать ошибку - будет некое число. Но, еще ты можешь оценить результат как "эксперт" - сгенерировать текст - и прочитать его - и сразу будет видно получилось что-то похожее на осмысленный текст или максимум три-четыре символа предсказываются а дальше идет шум. Прогноз-же числовых рядов мы не можем так проверить, поскольку мы не "эксперты" в этом, мы сами их не понимаем, поэтому как вариант можно попытаться попробовать апроксимировать график за все время и посмотреть похоже или нет.

авторЛинейная = sum(ki*хi**1)
1-й порядок (ну м.б. термин другой, шаг, стадия ...) = зависимость только от предыдущего значения.
одномерная = F(x1) или F(x2) или ...

То что ты написал это некая рекурсия, а не линейная регрессия, посмотри что такое линейная регрессия и сравни со своими формулами. В формуле линейной регрессии нет предыдущих значений, там есть лишь коэффициенты для текущей переменной. Ты вероятно использовал что-то, что внешне похоже на линейную регрессию`sum(ki*хi**1)` - формально выглядит так-же, но в линейной регрессии - xi - будет не предыдущими значениями а элементами вектора текущего значения. У тебя скорей что-то типа движущегося окна с линейной аппроксимацией будущих значений.

Никто не вкурсе - как-то можно сделать чтобы нейросеть выдавала распределение для прогноза? Нейросеть обычно выдает одно число, но хотелось бы получить не одно число а распределение, это как-то можно сделать ?

Как один из вариантов - Нашел что у нейросетей есть "температура" - ее можно "нагреть" и добавить случайностей. По идее на такой "нагретой" сети можно затем сделать 1000 немного отличающихся прогнозов и построить по ним гистограмму. Вопрос - это будет что-то реально похожее на распределение, или просто некий случайный артефакт, имеющий похожий вид?

Апдейт, знающие люди подсказали что с температурой не получится, надо как-то по другому.

авторЛинейная = sum(ki*хi**1)
1-й порядок (ну м.б. термин другой, шаг, стадия ...) = зависимость только от предыдущего значения.
одномерная = F(x1) или F(x2) или ...
Вроде так.

Посмотрел регрессии - то что ты написал судя по всему называется непараметрическая регрессия, да тоже вариант, не знал про нее, спасибо.

P.S. Про температуру не слышал. Возможно имеется в виду скорость обучения?

Нет, это какой-то параметр функции активации нейросети, он как-то случайно чуть меняет ее форму и из-за этого немного меняется результат.

exp98 - ты молодец что подсказал про регрессии, но давай ближе к делу все-таки.

Что такое температура нейросети https://cs.stackexchange.com/questions/79241/what-is-temperature-in-lstm-and-neural-networks-generally
Распределение строится так-же как любое распределение по некому сэмплу, например нормализовав гистограмму так чтобы площадь была 1.

Зачем ему быть стационарным? Оно будет считаться заново в каждой точке прогноза.

Подытожим:

1 Классика - представить числовой ряд как композицию неких функций. Я так понял это не работает, функция слишком сложная, а даже если и работает то нужно вручную проверять и подбирать параметры, загрузить туда ТОП500 чтобы все автоматом получилось скорей всего не удастся. Не подходит.

2 Классика - представить числовой ряд в виде рекурсии, непараметрическая регрессия, имеет еще романтическое название "ядерное сглаживание". Судя по всему хороший вариант, можно представить цифровой ряд в компактной хоть и рекурсивной форме. И можно получить распределение (не понял пока как именно, но примеры есть).

3 Монте Карло на Цепях Маркова - MCMC, тоже вроде работает, по идее тоже можно получить компактное представление - в виде весов цепи. Можно получить распределение.

4 Нейросети - универсальны. Напрямую распределение на них получить нельзя, но вроде-как таки можно если специально добавить кусок который будет заниматься именно прогнозом вероятностей. Проблемы - LSTM работают плохо, поскольку требуют больших мощностей для обучения и сложной правильной настройки, скорей всего нужно будет экспериментировать с обычными CNN. Минус - нет компактного представления.

5 Вейвлеты - по идее это разновидность 1 подхода, представить числовой ряд как композицию вейвлетов. Но что-то по ним маловато движухи последнее время. Также непонятно как на них считать распределение.

Итого осталось: непараметрическая регрессия, цепи маркова и нейросети.

Далее - хорошо-бы иметь возможность учитывать внешние факторы, как например процентную ставку. Для нейросети она добавляется естественным образом, в регрессию судя по всему тоже ее можно добавить в виде дополнительных слагаемых, с цепи маркова пока непонятно но вроде тоже это как-то можно добавить.

авторОно так не строится, а задаётся, например, для моделирования, если нет аналитического представления - называется "интегральный метод"

Наверно так, но мне не нужно аналитическое представление. Оно будет эмпирическое в виде нормализованной гистограммы, его можно будет нарисовать чтобы оценить визуально, и использовать для генерации случайной выборки, мне этого достаточно, получать распределение в каком-то аналитическом виде не нужно.

Мне и нужно только для моделирования что такое интегральный метод - как я себе это представляю - на гистограмме мы считаем ширину столбца и считаем его площадь. Затем суммируем все столбцы и нормализуем их высоту так чтобы в сумме была единица.

П.С.

Зачем нужно распределение - чтобы просчитать все возможные варианты и оценить риски. Прогноз - первый шаг, затем нужно еще посмотреть что именно надо делать с этим прогнозом - посмотреть какие варианты есть что получается, какие могут быт убытки в наихудшем случае и выбрать оптимальное действие.

автороценить распределение f(x1,x2,...) , моделируя входные параметры, - это М-К

Нет, будет следующее. Делаем прогноз для Микрософта, у нас есть цена на сегодня - 100$, мы прогоняем Монте-Карло на завтра, и получаем следующее распределение, где всего один параметр - цена. Функция распределения задана эмпирически и имеет следущий вид (если на вход функции подать цен в указанном диапазоне - функция вернет значение по стрелке)




Теперь, нам нужно определить - стоит покупать акцию или нет, мы берем эмпирическое распределение цены Микрософт на завтра - генерируем по нему сэмпл на 100 значений, и делаем 100 раз расчет прибыли - затем суммируем все - и смотрим если сумма больше нуля - покупаем, если меньше - не покупаем.

(вообще мы можем принять решение даже без распределения, я привел этот способ использования распределения просто как пример, реальный расчет будет сложнее и там будут нужны вероятности, но сама идея та-же).

авторавторЗачем нужно распределение - чтобы просчитать все возможные варианты и оценить риски.

Тебе-ж говорено - нереально. Хотя бабло твоё, тебе его и просирать.
Все возможные варианты включают диапазон от падения на 50% до роста на 50%. Вот и считай риски. А наиболее вероятный вариант, это размазанный диапазон, в сравнении с которым простейший тренд даёт лучший прогноз.

Ты ошибаешься. Целый раздел трейдинга - опционы - основан именно на оценке будущей волатильности. Плюс - есть классические регрессионные модели которые считают это распределение в том или ином виде. Неясно точно как именно ее считать на нейросетях, но там тоже есть варианты.

В интернете куча таких графиков



автортак использование оптимизированных под Intel MKL библиотек ускорило производительность в 20 раз

Интересный подход, буду иметь в виду если нужна будет больше мощности.

Фейсбук сделал Пророка

https://github.com/facebook/prophet
Интересное чтиво как он работает https://peerj.com/preprints/3190.pdf

Пока читал обнаружил что оказывается, есть вероятностные языки программирования, и пророк реализован на одном из таких языков Stan
Детали про такие языки

Короче, задачу аппроксимации рыночных цен, и ряда связанных задач, я таки продолжал решать все это время в фоне. Задача оказалась необъятной, и с каждым шагом ты не приближаешься к решению, а наоборот, возникает все больше и больше вопросов..., поэтому, работа продолжается :)

Как побочный эффект, я сделал продукт для визуализации данных, картинки графиков на фоне, они как раз из этих экспериментов. Думаю опубликовать также и сами документы с расчетами, если будет своб время в след. недели месяцы...

http://pl0t.com

Да Калман интересная вешь. Нет еще не пробовал, но попробовать стоит.

По этой теме есть работы Б. Мандельбротта, "Непослушные рынки" (The (mis)behaviour of markets : a fractal view of risk, ruin, and reward). И Н. Талеба "Statistical Consequences of Fat Tails: Real World Preasymptotics, Epistemology, and Applications"

Сами книги я еще не прочитал (собираюсь), но читал некоторые статьи Б. Мандельбротта и Н. Талеба.

Из того что я понял, построить какие то сложные модели не получится. Может какие хедж фонды с командами докторов и кандидатов и сотней лет истории рынков могут это сделать, но обычные люди не могут.

И это и плюс и минус. Минус понятен, даже сложные расчеты не помогут. Плюс - можно не напрягать мозги и обойтись простыми моделями.

Поэтому я думаю продолжать с простыми, интуитивно понятными моделями, ну и осилить таки эти две книги.