遗传算法原理以及在量化投资的应用

什么是遗传算法

1.介绍遗传算法的概念

遗传算法是一种进化策略的算法，模拟生物基因遗传。遵循物竞天择，适者生存，劣者淘汰的自然规律进化。

达尔文有一句话这么说的：

能够生存下来的往往不是最强大的物种，也不是最聪明的物种，而是最能适应环境的物种 。

简单的说，随着时间的流逝，一代代的繁殖，不管外部的环境如何恶劣，都会通过遗传和变异生存下来，以致适应环境。不适应环境的生物将会被淘汰。

人类的进化概要图如下：

2.遗传算法的原理

遗传算法的基本原理就是模拟上述的繁殖遗传的过程。

提炼出遗传算法的基础组件如下：

种群(Population)

生物进化是以群体的形式进行的，人类就是一个种群，种群还可以分为子种群，每个子种群分别进化

个体(Individual)

组成种群的独立单个物种

染色体(Chromosome)

包含一组基因，个体由多个染色体组成

基因(Gene)

可用于遗传的因子，并且携带特有的适应能力的信息

交叉(Crossover)

个体之间交换染色体，交叉繁殖遗传基因，形成新的个体

复制(reproduction)

复制优秀的个体，遗传基因

变异(Mutation)

根据一定概率基金突变，增强基因的多样性

进化(Evaluation)

根据优胜劣汰原则，进化优秀个体，淘汰劣类个体

遗传算法实现的方法

遗传算法实现的步骤大体分为基因编码解码，种群初始化，选择算子，交叉算子，变异算子，适应度函数(评价函数或者目标函数)。每个步骤的优化都会影响到遗传算法整体的优化结果。

1.基因编码

二进制编码

二进制编码顾名思义由二进制来编码，由0和1组成的基因编码成染色体

适用场景：解决背包问题

详解：背包问题一般给定某些东西固定的大小和价值，背包的容量是有限的，优化最大背包价值类似的问题

实数编码

实数编码是在给定的连续或者离散的区间内，将实数组合成有序的序列的一种编码

适用场景：解决排序的优化问题，例如TSP问题，任务排序，任务调度等问题

详解：这类问题对于顺序敏感，TSP问题就是路径规划的优化

字符编码

实数编码其实可以认为是字符编码的一种，实数编码的基因都是实数组成的，而字符编码可以由字母，单词，数字等组成，字符编码也可以将字符通过定义固定字典表的方式，转换成实数编码。

适用场景：优化神经网络的参数，权重等

详解：在设计好的神经网络的模型中，使用遗传算法优化权重，得到最佳的输出

符号编码

一般符号编码都使用树来存储，所以符号编码也可以称为树编码，是一种复杂的编码方式。量化投资的因子挖掘编码就是采取这种方式。

适用场景：给定特征，找出一个函数，以达到目标优化的方式

详解：这种方式，每一个特征可以作为一个变量成为基因，每一个表达式就是一个染色体，对于这个染色体的交叉和变异其实就是树节点的交换和变异。

2.选择算子

轮盘赌选择算法(Roulette Wheel Selection)

每个个体进入下一代的概率和它的适应度值成正比，它的进化概率是个体的适应度占总的适应值的比例。

具体算法如下：

1.计算每个个体的适应度值。

2.计算种群所有个体的进化到下一代的概率。

3.计算个体的积累概率。

4.在[0, 1]区间生成一个随机数r 。

5.重复(4)共N次。这样就选出来了一个新的种群。

举例如下：

如同轮盘旋转一样，面积越大，落上去的概率越大

优点：选择的概率与它的适应值成正比

缺点：适应度如果差别太大，如果最好的染色体适应值占比90%，那其他的染色体的进化机会将很小，这样不利于种群进化的多样性了。

排名选择算法

这种选择算法就会避免上述适应度差别很大的问题。

精英选择算法

将种群中最好的适应度的个体直接进化到下一代，避免优秀的个体在交叉和变异的时候，丢失良好的基因。

其他选择算法

还有其他的扩展的选择算法，例如随机竞争选择、期望值选择，排挤策略等。

3.交叉算子

单点交叉

指在个体编码基因串中只随机设置一个交叉点，然后再该点相互交换两个配对个体的部分基因

两点交叉

指在个体编码基因串中随机设置两个交叉点，然后再该点相互交换两个配对个体的部分基因

一致交叉

两个配对的个体在每个基因点上以相同概率交叉

算术交叉

通过算术表达式计算得到新的基因，例如and，or，xor等

符号编码的交叉

4.变异算子

基本位变异：对个体基因编码中以变异概率、随机指定的某一位或某几位做变异。

均匀变异：分别用符合某一范围内均匀分布的随机数，较小的概率来替换所有基金的基因值。（特别适用于在算法的初级运行阶段）

边界变异：随机的取基因两个对应边界基因值之一去替代原有基因值。特别适用于最优点位于或接近于可行解的边界时的一类问题。

非均匀变异：对原有的基因值做一随机扰动，以扰动后的结果作为变异后的新基因值。对每个基因座都以相同的概率进行变异运算之后，相当于整个解向量在解空间中作了一次轻微的变动。

高斯近似变异：进行变异操作时用符号均值为Ｐ的平均值，方差为Ｐ２的正态分布的一个随机数来替换原有的基因值。

以上最常用的是基本位变异，其他的变异算法需要读者自己深入研究。

二进制变异

将基因进行变异即可

实数变异

将实数进行变异即可

符号变异

将树上的节点变异，不过操作符只能变异成操作符，变量只能变异成变量

注意：不管是交叉还是变异，都存在一定概率进行， 交叉和变异概率均是超参，不能太小，也不能他大，太大会不容易收敛到最优解，太小将容易导致种群多样性差，容易收敛。

5.适应度函数

适应度函数也称为评价函数，适应度函数和目标函数是两个概念，适应度函数是根据目标函数区分群体中个体的好坏的标准，适应度函数总是非负，而目标函数可能为正也可能为负。所以一般需要在两者之间进行转换。适应度函数可以理解为综合目标的一个最终评分。

适应度函数设计的要求：

简单分值

非负

越大越好

计算简单

目标函数转换适应度函数方法：

直接转换

线性转换

多个优化目标按照权重分配转换成适应度值

指数转换

遗传算法在量化投资的应用

遗传算法复制指数

在投资中，指数基金就是通过复制标的是指数的基金，一般分为完全复制，部分复制，抽象复制。例如沪深300指数，我们用沪深300的少数的成分股来复制沪深300指数。

模型分析：

选多少只股票（成本问题）

选择哪些成分股（跟踪误差问题）

股票权重分配（跟踪误差问题）

模型限制条件问题如下：

成分股的数量固定，等于M

成分股的持股比例有大小限制，min < x < max

目标函数定义：

1.跟踪误差 - 与指数偏离的程度

是t时间内，组合的收益率，是t时间内，指数的收益率。

2.超额收益 - 组合的收益率超过指数的收益率

最后适应度函数就是：

还可以定义为:

其中w是超参，两个目标的权重。

具体实现步骤参数如下：

跟踪误差结果：

注意：在投资领域不是收益越高越好，而是要求收益高的同时，波动要小。一般用夏普值来衡量，在实际过程中，考虑的因素更多，比如交易手续费，停牌，st类的股票等等。

遗传算法做因子挖掘

在量化投资领域，多因子模型是量化投资的重要并且传统一个模型，因子是模型的原料，量化模型就是把不同类的因子按照一定方式组合在一起，去选股，并且预测收益。因子也可以称之为特征。在模型中你可以放入多种多样的因子，比如：动量因子，市值类因子，基本面因子，反转类因子，趋势类因子，波动因子等等。这些因子的数据来源于行情数据，高频数据，基本面数据，新闻数据，研报数据，宏观量化类，行业分析类等等。

简单因子：((close - open) / ((high - low) + .001))

复杂因子：((rank(ts_correlation(ts_sum(((high + low) / 2), 19), ts_sum(adv60, 19), 8)) < rank(ts_correlation(low, volume, 6))) * -1)

模型分析:

因子挖掘考虑因子的可交易性，目标函数最优，换手率低，泛华能力强且稳定。

选哪些股票参与训练

选定in-sample的训练时间，out-sample的样本时间

选定股票权重

选定股票收益计算周期

选定股票交易价格类型(open，close，vwap)

选定因子极值处理

基因和染色体选择:

Terminal Set:open、close、high、low、returns、volume、随机数

Function Set:rank(横截面的排序)、ts_rank(时间序列排序)、correlation(横截面相关性)、ts_correlation(时间序列相关性)、decay(时间序列衰减)、decay_linear(线性衰减)、ts_mean(简单平均)、ema(加权平均)、?:(if else三元表达式) ，min，max，ts_min，ts_max

模型限制约束条件:

因子有效数据占比(>60%)

因子值数据分布

因子ICIR或者Sharp最低值

因子目标值的t-value值

目标函数定义:

ICIR：

这两种IC值计算主要看因子值分布特点，如果因子值分布方差很小，值都很接近，那么第一种计算方式就不怎么显著，第二种才是比较好的方式。

Sharp(夏普值)：

换手率：一买一卖就是换手。换手率目标是越小越好，但是不能太小，换手才会带来收益，过高的换手会导致交易成本太高。同样也不能收益

适应度函数：

具体参数配置：

遗传算法参数配置含：

● 种群个体个数

● 子种群个数

● 随机种子

● 选择算子

● 交叉算子和交叉概率

● 变异算子和变异概率

● 适应度函数配置

● 树深度配置

● Terminal Set配置

● Function Set配置

● 其他超参配置

结果sharp进化图：

总结：遗传算法不仅金融领域应用广泛，还可以优化机器学习超参、机器人路径规划、流水车间调度等领域都可以应用。

遗传算法优化

1.容易局部收敛的问题

遗传算法的局部搜索很强，所以一般容易收敛用以下解决方案，具体情况具体对待。

扩大搜索空间

提高种群的数量、增加数据种类和数量、增加算子。

提高种群多样性

调整交叉策略、提高交叉概率、调整变异策略、提高变异概率。

毁灭优秀个体

对优秀个体进行存活周期倒计时，如果规定的周期内没有出现新的优秀个体，就直接杀死优秀个体，让携带有优秀基因且暂时远离目标的个体存活。

2.不容易收敛的问题

减少搜索空间

减少种群数量，减少数据种类和数量、减少复杂的算子。

降低种群多样性

降低交叉概率和变异概率。

精英策略

防止精英由于交叉变异被破坏，不能进化到下一代，对于较好的精英直接不通过交叉和变异直接进化到下一代。

3.过拟合问题

过拟合问题是在in-sample表现很好，out-sample表现非常差的问题。

样本数据

增加样本数据，让少量样本数据覆盖整体样本。

模型

一开始不要使用复杂的模型，不要把所有的数据加入到模型中。

数据清洗

对于数据进行清洗，分析清洗后的数据的分布。

中性化

对于相关性很高的因子可以进行中性化处理，避免朝着那个方向进化。

4.多目标收敛平衡问题

单目标进化

一开始先单目标进化，收集一定的数据，分析数据分布情况。

惩罚系数

对于目标拟合的时候，进行惩罚，惩罚可以根据周期进行线性，指数惩罚力度。

遗传算法优缺点

优点

● 基于群体的搜索，具备进化能力，不是穷举搜索

● 适应度函数简单操作

● 遗传算法很容易做分布式计算处理

● 遗传算法大大提高了搜索效率

● 遗传算法基于概率变异，具有一定随机性

● 遗传算法可以与其他算法结合，例如可以优化机器学习的超参

缺点

● 遗传算法受初代随机种群影响很大，可以结合启发式算法改进

● 遗传算法的诸多参数，例如交叉率、变异率影响了搜索结果，目前大多依赖经验值

● 遗传算法利用交叉和变异产生种群，搜索速度慢

改进

编码改进 ：格雷编码、动态编码

选择进化：随机竞争选择，特定目标挑选

交叉改进：多点交叉，单点交换

自适应：自适应遗传算法，精英策略年龄，种群年龄

效率：并行计算，分布式计算