Python随机森林算法预测实例,随机森林 python实现

　　本文为大家带来一些关于Python的知识，包括集成模型的介绍，随机森林模型的基本原理，sklearn对随机森林模型的实现等。下面就来看看吧，希望对你有帮助。

　　【相关推荐：Python3视频教程】

　　00-1010集成学习模型利用一系列弱学习器(也称基础模型或基本模型)进行学习，将每个弱学习者的结果进行集成，从而获得比单个学习者更好的学习效果。

　　集成学习模型的常见算法有Bagging算法和Boosting算法两种。

　　Bagging算法的典型机器学习模型是随机森林模型，Boosting算法的典型机器学习模型是AdaBoost、GBDT、XGBoost和LightGBM模型。

1 集成模型简介

　　假设有10000条原始数据，从中随机抽取10000条数据放回，形成新的训练集(因为是随机抽样放回，可能会多次选取某条数据，也可能根本不选取某条数据)，每次用一个训练集训练一个弱学习者。这样，经过n次随机选取，在训练结束时可以得到n个由不同训练集训练的弱学习者。根据这n个弱学习者的预测结果，按照“少数服从多数”的原则，可以得到更加准确合理的最终预测结果。

　　具体来说，在分类问题,通过对N个弱学习者进行投票来获得最终结果，而在回归问题,将N个弱学习者的平均值作为最终结果。

1.1 Bagging算法简介

　　“培养精英”是每一轮训练后对预测结果较准确的弱学习器给予较大的权重，对表现不好的弱学习器则降低其权重.在最后的预言中，“优秀模式”的权重很大，这意味着它可以投多张票，而“一般模式”只能投一票或不投。

　　“关注误差”在每一轮训练后改变训练集的权值或概率分布，通过提高在前一轮被弱学习器预测错误的样例的权值，降低前一轮被弱学习器预测正确的样例的权值,是为了提高弱学习者对预测中存在误差的数据的关注，从而提高模型的整体预测效果。

　　00-1010随机森林（Random Forest）是一种经典的Bagging模型，其弱学习器为决策树模型。如下图所示，随机森林模型会在原始数据集中随机抽样，形成N个不同的样本数据集，然后根据这些数据集构建N个不同的决策树模型，最后根据这些决策树模型的平均值(对于回归模型)或者投票情况(对于分类模型)得到最终结果。

　　为了保证模型的泛化能力(或一般能力)，随机森林模型在构建每棵树时，往往遵循“随机数据”和“随机特征”两个基本原则。

　　数据随机:从所有数据中随机选择数据作为决策树模型的训练数据之一。比如有1000个原始数据，提取1000次，形成新的一组数据，用于训练某个决策树模型。

　　特征随机:如果每个样本的特征维数是m，指定一个常数k & ltm，并从m个特征中随机选择k个特征。

　　与单决策树模型相比，随机森林模型集成了多个决策树，预测结果更加准确，且不易造成过拟合，泛化能力更强。

1.2 Boosting算法简介

　　 随机森林分类模型（RandomForestClassifier）

　　 随机森林回归模型（RandomForestRegressor）

　　随机森林分类模型的弱学习器是分类决策树模型，随机森林回归模型的弱学习器是回归决策树模型。

　　代码如下。

　　从sklearn.ensemble导入RandomForestClassi

　　fier

　　X = [[1,2],[3,4],[5,6],[7,8],[9,10]]

　　y = [0,0,0,1,1]

　　# 设置弱学习器数量为10

　　model = RandomForestClassifier(n_estimators=10,random_state=123)

　　model.fit(X,y)

　　model.predict([[5,5]])

　　# 输出为：array([0])

4 案例：股票涨跌预测模型

4.1 股票衍生变量生成

4.1.1 获取股票基本数据

　　前5行数据如下图所示，其中缺失的数据为节假日（非交易日）数据。

4.1.2 生成简单衍生变量

　　high-low表示（最高价-最低价）/最低价；

　　pre_close表示昨日收盘价，用shift（1）将close列的所有数据向下移动1行并形成新的1列，如果是shift（-1）则表示向上移动1行；

　　price_change表示今日收盘价-昨日收盘价，即当天的股价变化；

　　p_change表示当天股价变化的百分比，也称为当天股价的涨跌幅。

4.1.3 生成移动平均线指标MA值

　　注意：rolling函数的使用

例如：MA5的计算

　　

　　 根据上述数据，5号的MA5值为（1.2＋1.4＋1.6＋1.8＋2.0）/5＝1.6，而6号的MA5值则为（1.4＋1.6＋1.8＋2.0＋2.2）/5＝1.8，依此类推。将一段时期内股价的移动平均值连成曲线，即为移动平均线。同理，MA10为从计算当天起前10天的股价平均值。

　　

4.1.4 用TA-Lib库生成相对强弱指标RSI值

　　RSI值越大，涨势相对于跌势越强，反之则涨势相对于跌势越弱。

　　RSI值的计算公式如下。

举例：

　　

　　 根据上表数据，取N＝6，可求得6日平均上涨价格为（2＋2＋2）/6＝1，6日平均下跌价格为（1＋1＋1）/6＝0.5，所以RSI值为（1/（1＋0.5））×100＝66.7。

　　

4.1.5 用TA-Lib库生成动量指标MOM值

举例：

　　

　　 假设要计算6号的MOM值，而前面的代码中设置参数timeperiod为5，那么就需要用6号的收盘价减去1号的收盘价，即6号的MOM值为2.2-1.2＝1，同理，7号的MOM值为2.4-1.4＝1。将连续几天的MOM值连起来就构成一条反映股价涨跌变动的曲线。

　　

4.1.6 用TA-Lib库生成指数移动平均值EMA

　　EMA的计算公式如下。

举例：EMA6

　　取第1个EMA值为开头5个数的均值，故前5天都没有EMA值；6号的EMA值就是第1个EMA值，为前5天的均值，即1；7号的EMA值为第2个EMA值，计算过程如下。

　　

4.1.7 用TA-Lib库生成异同移动平均线MACD值

4.2 模型搭建

4.2.1 引入需要搭建的库

# 导入相关库
　　import tushare as ts
　　import numpy as np
　　import pandas as pd
　　import talib
　　import matplotlib.pyplot as plt
　　from sklearn.ensemble import RandomForestClassifier
　　from sklearn.metrics import accuracy_score

4.2.2 获取数据

# 1.股票基本数据获取
　　import tushare as ts
　　df = ts.get_k_data('000002',start='2015-01-01',end='2019-12-31')
　　df = df.set_index('date')
　　# 2.简单衍生变量数据构造
　　df['close-open'] = (df['close'] - df['open']) / df['open']
　　df['high-low'] = (df['high'] - df['low']) / df['low']
　　df['pre_close'] = df['close'].shift(1)
　　df['price_change'] = df['close'] - df['pre_close']
　　df['p_change'] = (df['close'] - df['pre_close']) / df['pre_close'] * 100
　　# 3.移动平均线相关数据构造
　　df['MA5'] = df['close'].rolling(5).mean()
　　df['MA10'] = df['close'].rolling(10).mean()
　　df.dropna(inplace=True)
　　# 4.通过TA-Lib库构造衍生变量数据
　　df['RSI'] = talib.RSI(df['close'],timeperiod=12)
　　df['MOM'] = talib.MOM(df['close'],timeperiod=5)
　　df['EMA12'] = talib.EMA(df['close'],timeperiod=12) #12日指移动平均值数
　　df['EMA26'] = talib.EMA(df['close'],timeperiod=26) #26日指移动平均值数
　　df['MACD'],df['MACDsignal'],df['MACDhist'] = talib.MACD(df['close'],fastperiod=6,slowperiod=12,signalperiod=9)
　　df.dropna(inplace=True)

4.2.3 提取特征变量和目标变量

X = df[['close','volume','close-open','MA5','MA10','high-low','RSI','MOM','EMA12','MACD','MACDsignal','MACDhist']]
　　y = np.where(df['price_change'].shift(-1) > 0,1,-1)

　　第2行代码中使用了NumPy库中的where()函数，传入的3个参数的含义分别为判断条件、满足条件的赋值、不满足条件的赋值。其中df['price_change'].shift（-1）是利用shift()函数将price_change（股价变化）这一列的所有数据向上移动1行，这样就获得了每一行对应的下一天的股价变化。因此，这里的判断条件就是下一天的股价变化是否大于0，如果大于0，说明下一天股价涨了，则y赋值为1；如果不大于0，说明下一天股价不变或跌了，则y赋值为-1。预测结果就只有1或-1两种分类。

4.2.4 划分训练集和测试集

　　将前90%的数据作为训练集，后10%的数据作为测试集，代码如下。

X_length = X.shape[0]
　　split = int(X_length * 0.9)
　　X_train,X_test = X[:split],X[split:]
　　y_train,y_test = y[:split],y[split:]

4.2.5 模型搭建

model = RandomForestClassifier(max_depth=3,n_estimators=10,min_samples_leaf=10,random_state=123)
　　model.fit(X_train,y_train)

4.3 模型评估与使用

4.3.1 预测下一天的股价涨跌情况

4.3.2 模型准确度评估

4.3.3 分析特征变量的特征重要性

4.4 参数调优

from sklearn.model_selection import GridSearchCV
　　parameters={'n_estimators':[5,10,20],'max_depth':[2,3,4,5,6],'min_samples_leaf':[5,10,20,30]}
　　new_model = RandomForestClassifier(random_state=123)
　　grid_search = GridSearchCV(new_model,parameters,cv=6,scoring='accuracy')
　　grid_search.fit(X_train,y_train)
　　grid_search.best_params_
　　# 输出
　　# {'max_depth': 5, 'min_samples_leaf': 20, 'n_estimators': 5}

4.5 收益回测曲线绘制

# 在测试数据上添加一列，预测收益
　　X_test['prediction'] = model.predict(X_test)
　　# 计算每天的股价变化率
　　X_test['p_change'] = (X_test['close'] - X_test['close'].shift(1)) / X_test['close'].shift(1)
　　# 计算累积收益率
　　# 例如，初始股价是1，2天内的价格变化率为10%
　　# 那么用cumprod()函数可以求得2天后的股价为1×（1＋10%）×（1＋10%）＝1.21
　　# 此结果也表明2天的收益率为21%。
　　X_test['origin'] = (X_test['p_change'] + 1).cumprod()
　　# 计算利用模型预测后的收益率
　　X_test['strategy'] = (X_test['prediction'].shift(1) * X_test['p_change'] + 1).cumprod()
　　X_test[['strategy','origin']].dropna().plot()
　　# 设置自动倾斜
　　plt.gcf().autofmt_xdate()
　　plt.show()

　　随机森林模型是一种非常重要的集成模型，它集成了决策树模型的众多优点，又规避了决策树模型容易过度拟合等缺点，在实战中应用较为广泛。

　　【相关推荐：Python3视频教程 】以上就是Python随机森林模型实例详解的详细内容，更多请关注盛行IT软件开发工作室其它相关文章！

郑重声明：本文由网友发布，不代表盛行IT的观点，版权归原作者所有，仅为传播更多信息之目的，如有侵权请联系，我们将第一时间修改或删除，多谢。