Ensemble是论文刷结果的终极核武器,深度学习中一般有以下几种方式

同样的参数,不同的初始化方式
不同的参数,通过cross-validation,选取最好的几组
同样的参数,模型训练的不同阶段，即不同迭代次数的模型。
不同的模型,进行线性融合. 例如RNN和传统模型.
提高模型性能和鲁棒性大法：probs融合 和 投票法。

假设这里有model 1, model 2, model 3，可以这样融合：

无非下面几种方式：

1.概率融合

model1 probs + model2 probs + model3 probs ==> final label

2.标签投票

model1 label , model2 label , model3 label ==> voting ==> final label

3.多次随机种子法

model1_1 probs + ... + model1_n probs ==> mode1 label, model2 label与model3获取的label方式与1相同  ==> voting ==> final label