Горизонт, который ты задаёшь первым
Живая запись — единственная проверка, которую нельзя перебрать, поэтому её планка падает с 4,499 из урока 64 до 1,645, и ей нужно в 7,48 раза меньше сделок, чем backtest на 15 000 ячеек, чтобы поддержать то же утверждение. В этом весь довод за проверку вперёд, и он держится, только если ты задаёшь число сделок до начала. Оцени запись из 156 сделок один раз, на сделке 156, и система вовсе без преимущества проходит в 5,05 процента случаев. Оцени ту же запись после каждой сделки начиная с двадцатой, останавливаясь при первом превышении 1,645, и та же мёртвая система проходит в 24,25 процента случаев.
Требования: Урок 64, за планку и за счётчик, из которого она вычисляется, урок 19, за то, как запись вообще накапливает свидетельства, и урок 62, за предложение, в виде которого правило было записано, прежде чем всё это запустили.
Для чего проверка вперёд нужна на самом деле
Обычный довод за проверку вперёд — реализм: настоящие исполнения, настоящая задержка, настоящие издержки, ни одного из удобств, которые backtest молча себе позволяет. Довод верен, и он не главный. Урок 63 показал, что аккуратный backtest может честно смоделировать издержки и slippage и всё равно ничего не стоить, а урок 64 показал почему: число, которое его обесценивает, — это не какое-либо рыночное допущение, а счётчик конфигураций, допущенных к прослушиванию ради его получения.
Проверка вперёд задаёт этот счётчик равным единице. Работает ровно одно правило, и никакая его версия, которая понравилась бы тебе больше, не работает рядом, чтобы быть тихо отброшенной. Именно это, а не реализм, есть свойство, за которое стоит платить, и урок 64 его оценил: одна конфигурация берёт 1,645 там, где сетка из 15 000 ячеек обязана взять 4,499, а поскольку нужное число сделок растёт как квадрат планки, живой записи их требуется в 7,48 раза меньше, чтобы сказать то же самое.
Значит, проверка вперёд — не более дешёвый backtest и не более честный. Это то же свидетельство, купленное в другой валюте. Backtest тратит конфигурации и получает ответ мгновенно; проверка вперёд тратит одну конфигурацию и платит временем. Во что обходится время — это арифметика, и вот она целиком. Преимущество d в R на сделку даёт t-статистику, равную d, умноженному на корень из числа сделок, так что взятие планки стоит 1,645, делённых на d, и всё это в квадрате. Чтобы перевести это в месяцы, нужен темп торговли, и эта страница всюду берёт сорок сделок в месяц: величина, ниоткуда не выведенная, а просто заданная, чтобы читатель с иным темпом поделил число сделок на своё.
| Преимущество, R на сделку | Сделок, чтобы взять 1,645 | Месяцев при сорока в месяц |
|---|---|---|
| 0,05 | 1 083 | 27,1 |
| 0,10 | 271 | 6,8 |
| 0,15 | 121 | 3,0 |
| 0,20 | 68 | 1,7 |
| 0,30 | 31 | 0,8 |
| 0,50 | 11 | 0,3 |
Прочти две первые строки, и очертания задачи станут видны. Преимущества, которые люди действительно находят, после вычета издержек и эталона живут в верхней половине этой таблицы, а верхнюю половину измеряют годами. Вдвое уменьшив преимущество, которое ты готов принять, ты вчетверо увеличиваешь ожидание, потому что планка стоит на месте и навстречу ей растёт лишь корень из счётчика. Поэтому от проверки вперёд отказываются: не оттого, что кто-то её оспаривает, а оттого, что честный горизонт для одной десятой R — шесть и восемь десятых месяца, и почти никто не начинает проверку, которую придётся так долго не трогать.
Лист, который этот модуль начал в уроке 62, получает здесь четвёртый столбец, и он самый короткий на странице: число сделок, которое продлится проверка, записанное до первой сделки. Почти никто из тех, против кого ты торгуешь, его не записывает. Он стоит одного целого числа и толики самообладания, а отсутствует по той же причине, по какой в уроке 64 отсутствовал счётчик конфигураций: обязаться заранее — единственный вариант, который способен чего-то тебе стоить.
Та же запись, оценённая пятью способами
Возьми систему вовсе без преимущества: 156 сделок, исходы которых берутся из распределения, отцентрированного ровно на нуле. Сделай так двадцать тысяч раз от зерна 20260903 и всякий раз считай текущую t-статистику обычным образом — среднюю сделку, делённую на стандартную ошибку этого среднего. Теперь меняй лишь одно: когда тебе позволено смотреть.
Оценённая один раз, на сделке 156 и только там: 1,645 берут 5,05 процента этих мёртвых систем. Проверка откалибрована, ради чего эта сверка и запускается: планка, задуманная пропускать пятерых из ста, пропускает 5,05 из ста, и всё дальнейшее меряется по ней.
| Когда можно смотреть | Взгляды | Мёртвые системы, которые проходят | Медианная сделка, на которой они проходят |
|---|---|---|---|
| Один раз, на сделке 156 | 1 | 0,0505 | 156 |
| На середине и в конце | 2 | 0,0795 | 78 |
| Четверо равноотстоящих ворот | 4 | 0,1187 | 78 |
| Ежемесячно, через тринадцать сделок | 12 | 0,1992 | 39 |
| После каждой сделки начиная с двадцатой | 137 | 0,2425 | 32 |
Ничто в этой таблице не меняет систему, планку, число сделок или распределение, откуда они берутся. Меняется лишь то, сколько раз записи позволено быть объявленной успехом. Четверо ворот — бумага, затем четверть размера, затем половина, затем полный, то есть план ввода, который рекомендует любое руководство по системной торговле, включая то, которое эта страница заменяет, — пропускают мёртвую систему в 11,87 процента случаев. Это более чем вдвое выше доли, которую планка была призвана допускать, и куплено это целиком разглядыванием.
Запись, которую тебе позволено остановить, есть перебор моментов остановки.
А значит, её можно оценить ровно так, как урок 64 оценил сетку. Реши относительно порога, который восстанавливает пять процентов при взгляде после каждой сделки, и он равен 2,569. Это не число нового рода: это планка, которую урок 64 даёт для одиннадцати конфигураций. Наблюдать за одной живой записью, пока она накапливается, стоит перебора одиннадцати, и это обходится в 2,44 раза больше сделок ради того же вывода, что превращает горизонт в 6,8 месяца для одной десятой R в 660 сделок и 16,5 месяца.
Вариант, который должен встревожить читателя, ведущего три системы-кандидата бок о бок, а это обычный способ проверять вперёд, хуже суммы своих частей. Три записи, за каждой следят после каждой сделки начиная с двадцатой, у каждой та же планка 1,645: в 55,65 процента случаев хотя бы одна из трёх объявляет себя живой, тогда как ни одна ею не является. Большинство. План выглядит как добросовестность, а это монета, утяжелённая в пользу того, чтобы что-нибудь принять.
Так что задай горизонт до первой сделки и прочти запись один раз, в конце.
Что это не решает
Что сделки независимы и одинаково распределены. Они ни то и ни другое, и допущение здесь делает настоящую работу: идущие подряд сделки одной системы делят одни и те же недели, один и тот же режим и часто один и тот же риск открытой позиции, поэтому действующее число независимых наблюдений в записи из 156 сделок меньше 156. Это толкает каждый горизонт в первой таблице вверх, а не вниз, так что страница оптимистична в том направлении, которое важнее всего, и она не говорит насколько, потому что это зависит от системы.
Что распределение сделок нормальное. Оно не нормальное, и у системы с редкими крупными выигрышами t-статистика сходится к нормальности медленно, из-за чего планка 1,645 неверна ровно при тех числах сделок, которые первая таблица называет короткими. На тридцати одной сделке при трёх десятых R нормальное приближение делает больше работы, чем само свидетельство.
Что ранняя остановка — единственный вред от разглядывания. Моделируется одно правило — остановиться при первом взятии планки — а настоящие трейдеры останавливаются и тогда, когда запись выглядит плохо; это зеркальное правило, и на этой странице оно нигде не смоделировано. Оно убирает системы, которые восстановились бы, вместо того чтобы принимать системы, никогда не работавшие, поэтому его цена невидима и несчётна, и здесь ничто её не оценивает.
Что фиксированный горизонт совместим с ведением счёта. Часто он несовместим. Систему, теряющую деньги четыре месяца подряд, следует выключить, и выключить её — правильное управление риском, даже если это разрушает статистическое свойство, на котором держится вся эта страница. Честная позиция такова: две цели действительно конфликтуют, управление риском побеждает, а проверку, прерванную по причинам риска, надо сообщать как прерванную, а не тихо записывать как провал самой идеи.
Что преимущество в конце такое же по величине, как в начале. Всё выше трактует d как постоянное на горизонте, а вся причина, по которой проверка вперёд может стоить труда, в том, что живые условия отличаются от исторических. Если преимущество угасает, пока проверка идёт, запись измеряет среднее того, чего уже нет к моменту, когда среднее становится значимым, и чем честнее горизонт, тем хуже становится.
И уступка, которая стоит дороже всего: горизонт надо вычислять из размера эффекта, а размер эффекта — ровно то, ради чего проверка и затевается. Первая таблица требует d прежде, чем скажет тебе, как долго, и это круг, из которого нет выхода. Наименее нечестная починка — задавать горизонт от наименьшего преимущества, которое стоило бы торговать после издержек, а не от того, о котором сообщил backtest, потому что второе — это число, о невозможности использовать которое урок 63 говорил целую страницу. Урок 66 берёт запись, которая всё же прошла, и спрашивает, чем она порождена, и находит, что на собственных шестидесяти закрытиях этого курса 57,7 процента доходности победившего правила были рынком, а не правилом.
Задачи
- Оцени собственный горизонт. Возьми наименьшее преимущество в R на сделку, которое стоило бы торговать на твоём инструменте после стоимости оборота, посчитанной в уроке 63, и прочти число сделок в первой таблице или посчитай 1,645, делённые на это преимущество, в квадрате. Десять минут, и в руках у тебя останется одно число — сделки, которые обязана продлиться твоя проверка вперёд, и это то число, на котором надо остановиться прежде, чем выставить первую.
- Сосчитай свои взгляды. Выпиши свой настоящий план ввода — бумага, малый размер, побольше, полный, плюс каждый разбор, который у тебя назначен — и сосчитай точки, в которых ты мог бы решить, что система работает. Полчаса, и в руках у тебя останется одно число — количество ворот, которое вторая таблица переводит в долю, с какой твой план принимает систему, в которой ничего нет.
- Прогони нулевую модель на собственном плане. Смоделируй систему без преимущества на своём горизонте тысячу раз от зерна, которое запишешь, и примени к каждой смоделированной записи свои ворота и свою планку. Сосчитай, как часто её приняли бы. Вечер, и в руках у тебя останется одно число — эта доля, и она есть частота ошибочного принятия у того порядка действий, которому ты собирался доверить деньги.
Источники. Peter Armitage, C. K. McPherson и B. C. Rowe, «Repeated Significance Tests on Accumulating Data» (Journal of the Royal Statistical Society, Series A, 1969) — за результат, который воспроизводит вторая таблица: многократная проверка одной и той же накапливающейся записи раздувает долю ложных находок далеко выше её номинального уровня. Stuart J. Pocock, «Group Sequential Methods in the Design and Analysis of Clinical Trials» (Biometrika, 1977) — за практику заранее задавать число промежуточных взглядов и поднимать порог под них; ровно этим и является 2,569 на этой странице. Peter C. O’Brien и Thomas R. Fleming, «A Multiple Testing Procedure for Clinical Trials» (Biometrics, 1979) — за иной путь, распределяющий уровень ошибки между взглядами неравномерно; это лучшая схема, которой эта страница не пользуется. David H. Bailey, Jonathan M. Borwein, Marcos López de Prado и Qiji Jim Zhu, «Pseudo-Mathematics and Financial Charlatanism: The Effects of Backtest Overfitting on Out-of-Sample Performance» (Notices of the American Mathematical Society, 2014) — за планку, которую этот урок переносит из урока 64 и переводит в одиннадцать конфигураций.
Цена поиска
Планка, которую перебор обязан взять, и счётчик, из которого она вычисляется.
Читать урок →Сколько ждать, чтобы узнать
Как запись накапливает свидетельства и насколько медленно.
Читать урок →Backtesting как доказательство
Почему преимущество, о котором сообщает backtest, не может быть тем, из которого ты задаёшь горизонт.
Читать урок →Только в образовательных целях. Торговля сопряжена со значительным риском убытков. Это не финансовая консультация. Прошлые результаты не гарантируют будущих.
💬 Обсуждение (0 комментариев)
Загрузка комментариев…
Готовы торговать с Signal Pilot?
Примените полученные знания с профессиональными индикаторами и инструментами анализа рынка в реальном времени.
Вернуться в Signal Pilot →