「十次有八次成功」能信吗
Section titled “「十次有八次成功」能信吗”你看图时,大概常常看到形态:连涨几天、双底、突破前高。有人告诉你,某个形态「十次有八次成功」;你翻回去看图,好像确实如此。要不要照着它入场?
要回答这个问题,先要知道两件事。随机的涨跌里,本来就会出现多少像形态的形状?手里有一个形态和一份回测结果时,凭什么判断它能不能写进入场规则,还缺哪几步检验?后一个问题的主要工具是置换检验:把收益率的先后顺序随机打乱很多次,看真实的结果在打乱以后的结果里排在第几,这个位置称为排位,排位越小,真实结果越靠前。这一节用到 2.2 的计数和标准误,以及期权课 12.6 的多重检验;没有学过 12.6 也能读,用到的地方会说明。
这一节是选读,不进本章小测。难度三颗星,因为后半要把几步检验连起来用。这里不评价具体的技术指标和图形,它们的证据见期权课 6.1。
先写下你的判断
Section titled “先写下你的判断”下面两串各是 20 个交易日的涨跌,各有 10 个涨、10 个跌。一串由计算机随机生成,另一串是人写的,写的人想让它「看起来随机」。
- 甲:涨跌涨涨跌涨跌跌涨跌涨跌跌涨跌涨涨跌涨跌
- 乙:涨涨涨跌跌跌涨涨跌涨涨涨跌涨跌跌跌跌涨跌
哪一串更可能是随机生成的?写下你的选择和理由。
随机的那一串更「不整齐」
Section titled “随机的那一串更「不整齐」”乙是计算机随机生成的:从生成的序列里,挑了一串涨跌各 10 个的。甲是人写的。
很多人会选甲。甲来回交替,最长的连续只有 2 天;乙里有两次连涨三天、一次连跌三天,还有一次连跌四天,看起来「有规律」。研究一再发现,人写的随机序列交替得太频繁,判断时也把交替过多的序列当作最随机的(Falk 和 Konold,1997 等)。
数一数换方向的次数,就能看出差别。20 个涨跌之间有 19 次换方向的机会。像这两串这样涨跌各 10 个的随机序列,平均换约 10 次。乙换了 9 次,在平均附近;甲换了 15 次,远多于平均。所以甲更可能是人写的。只凭一串,只能说「更可能」,计算见下面的延伸阅读。
随机,并不意味着整齐。
延伸阅读:换方向的次数和连续的长度
换方向的次数。在真正随机的序列里,各天互不相关,每次换方向的可能是一半。不限涨跌个数时,19 次机会平均换 9.5 次,标准差约 2.2 次。像上面两串这样限定涨跌各 10 个时,平均约 10 次,标准差仍约 2.2 次;甲的 15 次比平均多出约 2.3 个标准差。
人写的序列约六成是换方向,平均约换 11.4 次,与随机的 9.5 次相差不到一个标准差。所以一串 20 个的计数分不清两者;要可靠地分辨,需要很多串,或者长得多的序列。
连续的长度。按 2.2 的模型(涨跌各半、各天互不相关),20 个交易日里出现连续 5 天同向的可能约 46%;一年 250 个交易日里,出现连续 8 天同向的可能约 63%。
乙为什么看起来有规律?因为随机的涨跌里,连续和成团出现的次数比直觉多,眼睛会把它们看成形态。
有多常见,可以按 2.2 的模型算:涨跌各半、各天互不相关。在这个模型里,一年 250 个交易日里出现连续 7 天同向的可能约 87%。这是模型算出的可能,不是市场数据。它说明,即使涨跌毫无规律,这样的连续也很常见。
价格曲线也一样。随机生成的价格常常反复回到同一个价位附近,画在图上很像支撑和阻力;一段随机的上涨,也很像一条趋势。眼睛看到的是形状,看不到这个形状在随机序列里有多常见。
把随机序列里正常出现的连续和成团,看成有原因的形态,称为聚集错觉(clustering illusion)。2.2 的热手研究讨论的,正是篮球上的同一个问题:要分清「真的有手感」和「随机序列本来就会有连续命中」,需要正确的数法。
生活类比:躺在草地上看云,你会看出一只狗、一张脸。云并不是照着狗的样子长的,是眼睛在找熟悉的形状。
类比的局限:云的形状与狗毫无关系,价格却不一定全是随机的,期权课 6.1 里证据最强的就是几个月尺度上的动量。另外,没有人按云的形状下注,市场里的形态却真的有人照着交易。很多人在同一个价位挂单时,价格在那里的走法可能因此不同,2.4 的整数关口就是一例。所以看到形态,既不能一概相信,也不能一概否定,要用数据分辨。
按期权课 6.1 的总结,单条买卖规则和图形的证据较弱,看图的人却常常觉得形态很准。这是几种错觉叠在一起:随机序列里本来就有很多连续和成团(聚集错觉);知道结果以后再看图,当时的形状显得很明确(事后偏差,3.4);成功的几次容易想起,失败的几次被忘记(可得性,2.3)。
形状出现得多,不说明它有用。
置换检验:把顺序打乱,再算一遍
Section titled “置换检验:把顺序打乱,再算一遍”那么,一个形态有没有用,怎样检验?先看一位学员的做法(示例数据,非实时)。
他想检验一条规则:「SPY 连涨三天,收盘买入,持有一天。」他用的是 5 年、1,256 个交易日的数据,其中上涨日约占 54%。他先写好规则,再去数:5 年里一共出现 190 次信号,失败的也算在内,每次的平均收益是 +0.17%。这 5 年全部交易日的平均日收益约 +0.04%。
+0.17% 比平均的一天好,可是 190 次的平均也会受运气左右。这 +0.17% 里,有多少来自「连涨三天」这个顺序?他做了一次置换检验(permutation test):把同一段每日收益率的顺序随机打乱,按同样的规则重算一遍。这样打乱很多次,再看真实序列的结果,在打乱以后的结果里排在什么位置。
为什么打乱能回答这个问题?打乱只改变各天的先后顺序,不改变每一天的涨跌幅。所以平均收益、波动的大小、上涨日的比例、最大的几次涨跌都原样保留,被破坏的只有顺序。在打乱以后的序列里,「连涨三天」后面跟着哪一天完全是随机的,按规则算出的结果,相当于随便挑同样多的日子买入。一个形态如果真的依赖顺序,真实序列上的结果就应当明显好于打乱以后的结果;如果差不多,顺序里就看不出东西。
1,256 天的排列顺序多到无法全部算一遍。随机打乱 1,000 次,是用一部分排列近似全部排列。他的结果如下:
| 项目 | 结果 |
|---|---|
| 真实序列 | +0.17% |
| 打乱 1,000 次的平均 | +0.04% |
| 好于或等于 +0.17% | 38 次 |
| 排位 | 3.8% |
读法:打乱以后的平均,与全部交易日的平均日收益差不多,这正是随便挑日子买入的水平。排位是打乱以后好于或等于真实结果的次数,占打乱次数的比例:38 ÷ 1,000 = 3.8%。排位越小,能赶上真实结果的打乱结果越少,真实结果越靠前。
排位怎样用?假如顺序里什么也没有,真实序列就只是又一种排列,它落在 1,000 个结果中的哪个位置都一样可能。单凭运气排进最好的 5% 以内,机会只有 5%。所以只试过一种定义时,排在最好的 5% 以内,才说明顺序里可能有东西。5% 是常用的门槛,不是定律。他的 3.8% 在 5% 以内。
它还抵消了 2.2 讲的分段数法偏差:打乱以后的序列用同样的数法,带着同样的偏差,两边一比就抵消了。修正热手研究的那项研究,用的正是这种比较(Miller 和 Sanjurjo,2018)。
打乱以后就消失的,才可能是顺序里的东西。
延伸阅读:自己跑一次置换检验
下面的 Python 代码检验「连跌 k 天,收盘买入,持有几天」这一族定义,排位按试过的全部定义取最好的一个计算(为什么要这样算,见下一部分)。准备一个 CSV 文件,每天一行,有一列收盘价。收盘价用复权价(adjusted close),否则拆股那天会算出一次假的大跌;列名不是 Close 的,改掉代码里的 "Close"。规则如果还用到当天的开盘价、成交量等数据,打乱时要把一天的全部数据作为一个整体交换位置,不能只打乱收盘价的收益率,否则信号和当天的收益就对不上了。
import csv, random
closes = [float(row["Close"]) for row in csv.DictReader(open("QQQ.csv"))]r = [closes[i] / closes[i - 1] - 1 for i in range(1, len(closes))]
def rule(r, k, hold): """连跌 k 天,收盘买入,持有 hold 天:每次信号的平均收益""" res = [sum(r[t + 1 : t + 1 + hold]) for t in range(k - 1, len(r) - hold) if all(x < 0 for x in r[t - k + 1 : t + 1])] return sum(res) / len(res) if res else float("-inf")
defs = [(k, h) for k in (3, 4, 5) for h in (1, 2)] # 试过的全部定义real = max(rule(r, k, h) for k, h in defs)better = 0for _ in range(1000): s = random.sample(r, len(r)) # 打乱一次 if max(rule(s, k, h) for k, h in defs) >= real: better += 1print("最好的定义:", real, "排位:", better / 1000)defs 里列出你试过的每一种定义;只试过一种,就只写一种。6 年的数据,在普通电脑上几秒钟就能算完。
排位本身也有误差,因为 1,000 次只是全部排列的一部分。真实排位在 5% 附近时,按 2.2 的标准误公式,打乱 1,000 次算出的排位,标准误约为 √(0.05 × 0.95 ÷ 1,000) ≈ 0.7 个百分点。算出的排位落在 4%–6% 之间的,打乱 10,000 次再看。
试过几种定义,打乱以后也按几种取最好
Section titled “试过几种定义,打乱以后也按几种取最好”事情还没完。他定下「连涨三天」以前,还试过连涨两天、四天、五天,「连涨三天」是四种里结果最好的。这会改变结论吗?
会。假设四种定义都没有用,每一种单凭运气排进前 5% 的机会都是 5%。四种全都排不进前 5% 的概率是 0.95⁴,所以至少一种排进去的概率是 1 − 0.95⁴,比 5% 大得多。试得越多,这个概率越大。试 10 种互不相关的定义,即使哪种都没有用,挑出最好的一种去比,排进前 5% 的机会约有:
各种定义彼此相关时,这个数小一些,例如连涨三天和连涨四天的信号大量重合;但它仍然远大于 5%。这就是期权课 12.6 的多重检验:试的组数越多,单凭运气「看起来有效」的就越多。
所以,拿最好的一种去和打乱以后的单一种比,是不公平的:真实序列挑了四次,打乱以后只挑了一次。正确的做法是让打乱以后的序列也挑同样多次。每打乱一次,就把四种定义全部重算,取最好的一个。再看真实序列上最好的 +0.17%,在这 1,000 个「最好的一个」里排在哪里。
他照这样重做了一遍:1,000 次打乱里,有 220 次的最好结果好于或等于 +0.17%,排位 22%,远不在 5% 以内。他的结论是:顺序里看不出东西,这条规则不写进入场规则。
试过几种定义,打乱以后也按几种取最好。
通过了,也只是必要的一关
Section titled “通过了,也只是必要的一关”假设重做以后排位仍在 5% 以内,能不能直接写进入场规则?还不能。置换检验只说明按所选的统计量,顺序里有没有东西;不说明扣除成本以后能不能赚钱,也不能代替样本外检验。统计量是拿来比较的那个数,本节用的是每次信号的平均收益。一个形态预测的如果是幅度,例如连跌以后波动更大,这对期权卖方要紧,用平均收益去比就看不出来,要换成幅度的统计量,例如信号之后的平均绝对涨跌幅。置换检验自己的前提也不完全成立。下面三件事,要分别检验。
第一,前提。置换检验假设,在顺序里什么也没有的情况下,各天可以互相交换位置,每一种顺序都一样可能。真实的收益率不完全满足这个前提:大波动之后往往跟着大波动,这是波动聚集(期权课 0.6)。打乱以后,动荡的几周被拆散,大涨大跌被均匀地撒到各处。一个形态的信号如果恰好集中在动荡的日子里,它在真实序列上的结果起伏大,打乱以后的结果起伏却变小了,分布偏窄。这样,即使形态没有用,真实结果落进前 5% 的机会也大于 5%。所以通过置换检验只是必要的一关,不是形态有效的证明。
第二,成本和实际的交易。排位比较的是收益率,没有扣除每次进出的买卖价差和佣金。用期权交易这个形态时,要按同样的信号回测期权交易本身的盈亏:卖出价差还受 IV、Theta 和止损的影响,标的的平均收益为正,不说明价差赚钱。回测按期权课 12.6 的成交价假设,扣掉让价成本和佣金,再看平均盈亏还剩多少。让价成本,是不按中间价、按对方的报价成交所多付的钱,每条腿每进出一次约半个买卖价差。
第三,样本外。定义是在这 5 年的数据上选出来的,这段数据已经用过了。要知道它以后还管不管用,要换一段没有参与挑选的数据再检验一次,这称为样本外测试(期权课 6.1、12.6)。看过样本外的结果再回头改定义,那段数据也就用过了,只能再找一段新的。
通过置换检验,只说明这个形态值得继续检验。
检验一个形态的五步
Section titled “检验一个形态的五步”把前面的做法连起来:检验一个形态,要先写定义、数全部信号、记下试过几种定义,再做置换检验,最后换一段没用过的数据检验。最容易漏掉的一条是:试过几种定义,打乱以后也要按几种取最好的比较。
- 先写定义,再看数据。形态的条件、入场和离场,写成别人照着也能判断的句子,例如「连涨三天,收盘买入,持有一天」,而不是「明显的上升趋势」。先看图再写定义,等于在同一段数据上试过很多种定义,却数不出试了几种,置换检验也就无法按同样多的定义比较。这段数据只能用来找想法,检验要换一段数据。
- 数全部的信号。按定义把这段数据里的每一次信号都找出来,失败的也算。只数记得住的几次,等于让 2.3 的可得性替你挑样本。
- 记下试过几种定义。改过一个参数,例如连涨几天、持有几天,或者加了一个条件,就算多试了一种。
- 做置换检验。打乱 1,000 次。只试过一种定义时,排在最好的 5% 以内才算通过;试过几种,每次打乱都把几种全部重算,取最好的一个比较。
- 换一段没用过的数据再验一次,并按实际要做的交易扣除成本(期权课 6.1、12.6)。用期权做的,回测期权交易本身的盈亏。
五步都通过的形态,才写进入场规则,也就是规则手册里的入场条件(期权课 12.3、12.7);还没有规则手册的,写进系统草稿。把一个形态写进入场规则,或者从中删去,都是改动条文:写进修改记录,在月复盘时决定,下个月第一个交易日生效(0.8;期权课 12.4)。
写进一个形态,是放宽入场条件、加一个新的打法,风险变大了。还在 12 周模拟盘里的(期权课 12.6),从生效那天重新计 12 周;已经用真钱交易的,先退回模拟盘跑满 12 周(期权课 12.7、12.8)。从入场规则里删去一个形态是收紧,不重新计时。
检查单(一个形态写进入场规则以前):
- 定义写在看这段数据以前,别人照着能判断
- 全部信号都数了,写明次数
- 写明试过几种定义
- 置换检验按同样多的定义取最好的比较,排位在 5% 以内
- 按实际要做的交易(标的或期权结构)扣除成本以后,平均盈亏仍然为正
- 换一段没用过的数据,结果仍然成立
- 写进修改记录,月复盘时生效
- 12 周模拟盘从生效日重新计时;已经用真钱交易的,先退回模拟盘
随堂练习(示例数据,非实时):另一位学员用 QQQ 6 年、1,510 个交易日的数据检验一条规则,其中上涨日约占 55%。规则是「连跌四天,收盘买入,持有两天」。他一共试过六种定义:连跌三天、四天、五天,各配持有一天和持有两天,这一种的结果最好。6 年里出现 59 次信号,每次平均 +0.66%。他只拿这一种定义去做置换检验:打乱 1,000 次,有 25 次好于或等于 +0.66%。
- 他算出的排位是多少?据此能不能把这条规则写进入场规则?为什么?
- 正确的置换检验应当怎样做?
- 他照正确的做法重做,1,000 次里有 118 次的最好结果好于或等于 +0.66%。结论是什么?
- 假如重做以后只有 30 次,排位 3%,能不能直接写进入场规则?写出还缺哪几步,以及 3% 为什么可能偏乐观。
参考解答
- 25 ÷ 1,000 = 2.5%。不能据此写进去。他试过六种定义,挑了最好的一种,却只让打乱以后的序列算了一种。六种定义都没有用时,至少一种单凭运气排进前 5% 的概率,按互不相关算是 1 − 0.95⁶ ≈ 26%;这六种的信号大量重合,实际会小一些,但仍然远大于 5%。所以 2.5% 不能直接与 5% 的门槛比。
- 每打乱一次,把六种定义全部重算,取最好的一个。数一数 1,000 次里有几次「最好的一个」好于或等于真实序列上最好的 +0.66%,再除以 1,000。
- 118 ÷ 1,000 = 11.8%,不在最好的 5% 以内。顺序里看不出东西,不写进入场规则。
- 不能直接写进去。还缺两步:换一段没用过的数据再验一次,例如另取几年的数据,定义和参数不再改动;扣除买卖价差和佣金,看平均收益还剩多少(期权课 12.6)。还要问一句:这条定义是不是看了这 6 年的图以后才想到的?如果是,在心里试过的定义不止六种,只有样本外的结果能说明问题。3% 可能偏乐观,是因为打乱破坏了波动聚集,打乱以后的分布偏窄;「连跌四天」的信号如果集中在动荡的日子里,真实结果排进前 5% 比 5% 更容易。最后,即使都通过了,写进入场规则也是改动条文,写进修改记录,月复盘时生效;它加了一个新的打法,还在 12 周模拟盘里的从生效日重新计时,已经用真钱交易的先退回模拟盘(期权课 12.7)。
- 人写的随机序列换方向太多:实验已有几十年,数量很多,结论一致,等级为强(Falk 和 Konold,1997 等)。实验判断的是抽象的涨跌或硬币序列,不是价格图;用到看图交易上是推断。
- 图表形态和单条买卖规则:按期权课 6.1 的总结,证据较弱;本节不另定等级。
- 置换检验:统计上的标准做法,不是心理学的发现,不给等级。
在交易中的应用
Section titled “在交易中的应用”- 出现在哪个环节:开仓:按形态入场,或者用形态给期权交易择时的时候,例如出现某个形态才开牛市看跌价差。复盘时把一段行情说成「形态又应验了」,也是同一个问题。
- 记在哪里,用什么衡量:规则手册(还没有的,系统草稿)里,每个形态附一页检验记录:定义和写下的日期、试过几种定义、全部信号的次数、样本内的平均结果、置换检验的排位(注明所用的统计量、按几种定义比较)、按实际要做的交易扣除成本以后的结果和样本外的结果。
- 对策在哪一层,与期权课哪一节衔接:入场条件里只列通过五步的形态,按没有列入的形态开仓记为违规(0.2),违反的后果照规则手册的违规条款(期权课 12.4)。这是写进规则手册的条文,属于第二层「预先承诺」(0.7);五步检验是写进这条规则的前提。入场条件见期权课 12.3,回测和样本外的规范见期权课 12.6。
常见误区:
- 「这个形态出现了这么多次,一定有道理。」——随机序列里,连续和成团出现的次数本来就比直觉多。出现得多,不说明有用。
- 「十次有八次成功。」——这十次是怎样挑出来的?定义是事先写好的,还是看了图以后才写的?没有成功的那些次,数进去了吗?
- 「我回测过,置换检验排在 3%,可以用了。」——试过几种定义?打乱以后按同样多的定义取最好的比过吗?用期权做的,回测过期权交易本身、扣除成本了吗?换一段没用过的数据验过吗?
- 「很多人都在用,所以有效。」——很多人用,可能让价格在某些价位附近的走法不同(2.4),也可能早已被人利用殆尽。只能用数据分辨。
思考题:
- 一串 20 个交易日的涨跌,换了 13 次方向。能不能断定它是人写的?(答:不能。不限涨跌个数时,随机序列平均换 9.5 次、标准差约 2.2 次(见延伸阅读),13 次多出约 1.6 个标准差;人写的平均约 11.4 次,13 次离它更近。两种来源都说得通,只能说略微更像人写的。要分辨,需要很多串或者长得多的序列。)
- 一位朋友在同一段数据上试了 10 种均线组合,只拿最好的一种做置换检验,排位 4%。即使 10 种都没有用,挑出的那一种排进前 5% 的机会约有多大?他应当怎样重做?(答:各组合互不相关时约 1 − 0.95¹⁰ ≈ 40%,彼此相关时小一些,但远大于 5%。重做时,每打乱一次就把 10 种全部重算,取最好的一个,再看真实序列上最好的结果排在哪里。)
- 一位学员只试过一种定义:「SPY 单日跌 2% 以上,收盘卖出一组 30 天的牛市看跌价差」。他用 SPY 的日收益率做置换检验,统计量是信号之后 30 天标的的平均收益,排位 2%。他说可以写进入场规则了。还缺哪几步?(答:第一,检验的不是他要做的交易。价差的盈亏还受 IV、Theta、止损和跌幅大小的影响,要按同样的信号回测价差本身,扣除让价成本和佣金(期权课 12.6);急跌以后波动往往更大,对卖方要紧的是幅度,平均收益看不出来。第二,急跌的日子正是波动聚集的日子,打乱把它们拆散,排位可能偏乐观。第三,换一段没用过的数据再验一次。第四,都通过了,这也是加一个新的打法:写进修改记录,月复盘时生效;还在 12 周模拟盘里的从生效日重新计时,已经用真钱交易的先退回模拟盘(期权课 12.7)。)
本节要点:
- 随机的涨跌里,连续和成团出现的次数比直觉多,眼睛会把它们看成形态;形状出现得多,不说明它有用。
- 检验一个形态,要先写定义、数全部信号、记下试过几种定义,再做置换检验,并换一段没用过的数据检验;试过几种定义,打乱以后也要按几种取最好的比较。
- 置换检验只说明按所选的统计量(例如平均收益),顺序里有没有东西;不说明扣除成本以后能不能赚钱,也不能代替样本外检验;它假设各天可以互换,而真实收益率有波动聚集,所以通过它只是必要的一关。
本节任务:挑一个你相信的形态,按五步写一页检验计划,不必真跑。第一项是定义:条件、入场、离场,写成别人照着能判断的句子。第二项是数据:哪个标的,哪几年用来检验,另留哪几年作样本外、现在不看。第三项是试过几种定义,把以前看图时想过的变体也列上。第四项是置换检验:打乱几次,每次重算几种定义,门槛是多少。第五项是成本和实际的交易:用期权做的,写明回测哪种期权结构,每次进出按多少扣。写完对照上面的检查单。想真跑一次的,用上面延伸阅读里的代码,或者做本章练习页的实操练习 5。
关键术语:
| 中文 | English | 释义 |
|---|---|---|
| 聚集错觉 | clustering illusion | 把随机序列里正常出现的连续和成团,看成有原因的形态 |
| 置换检验 | permutation test | 把同一段每日收益率的顺序随机打乱,按同样的规则重算所选的统计量,看真实结果在打乱以后的结果里排在哪里;前提是各天可以互换 |
仅供学习,不构成投资建议。课程里的价格和数据都是标注过的示例,不是实时行情。