説明

バギング演算子はネストされた演算子です。つまり、サブプロセスがあります。サブプロセスには、学習者、つまりExampleSetを予期してモデルを生成する演算子が必要です。この演算子は、サブプロセスで提供される学習器を使用して、より良いモデルを構築しようとします。この演算子を適用するには、サブプロセスの基本的な理解が必要です。サブプロセスの基本的な理解については、サブプロセス演算子のドキュメントをご覧ください。

バギングの概念（分類への投票、関心のある連続従属変数を持つ回帰型問題の平均化）は、予測データマイニングの領域に適用され、複数のモデルまたは同じタイプのモデルからの予測分類（予測）を組み合わせます異なる学習データ用。また、複雑なモデルを比較的小さなデータセットに適用する場合の結果の固有の不安定性に対処するためにも使用されます。データマイニングタスクが予測分類用のモデルを構築することであり、モデルのトレーニング元のデータセット（観測された分類を含む学習データセット）が比較的小さいとします。データセットからサブサンプル（置換）を繰り返しサブサンプルし、たとえばツリー分類子（たとえば、CHAID）を連続したサンプルに適用できます。実際には、さまざまなサンプルに対して非常に異なるツリーが成長することが多く、小さなデータセットではしばしば明らかなモデルの不安定性を示します。 （新しい観測の）単一の予測を導出する1つの方法は、異なるサンプルで見つかったすべてのツリーを使用し、いくつかの単純な投票を適用することです。予測の加重組み合わせ（加重投票、加重平均）も可能であり、一般的に使用されていることに注意してください。重み付き予測または投票用の重みを生成するための洗練されたアルゴリズムは、AdaBoost演算子としてRapidMinerで使用可能なブースティング手順です。

アンサンブル理論バギングはアンサンブル手法であるため、ここではアンサンブル理論の概要について説明しました。 Ensembleメソッドは、複数のモデルを使用して、構成モデルのいずれかから得られるよりも優れた予測パフォーマンスを取得します。言い換えると、アンサンブルは、強い学習者を生成するために、多くの弱い学習者を組み合わせる手法です。通常、アンサンブルの予測を評価するには、単一のモデルの予測を評価するよりも多くの計算が必要です。そのため、アンサンブルは、多くの余分な計算を実行することにより、貧弱な学習アルゴリズムを補う方法と考えることができます。

アンサンブルはそれ自体が教師あり学習アルゴリズムです。これは、アンサンブルをトレーニングしてから予測を行うために使用できるためです。したがって、訓練された集団は単一の仮説を表します。ただし、この仮説は、それが構築されたモデルの仮説空間に必ずしも含まれるわけではありません。したがって、アンサンブルは、表現できる機能の柔軟性が高いことを示すことができます。この柔軟性により、理論的には、単一のモデルよりもトレーニングデータをオーバーフィットできますが、実際には、いくつかのアンサンブル手法（特にバギング）は、トレーニングデータのオーバーフィットに関連する問題を軽減する傾向があります。

経験的に、アンサンブルは、モデル間に大きな多様性がある場合により良い結果をもたらす傾向があります。したがって、多くのアンサンブルメソッドは、組み合わせたモデル間の多様性を促進しようとします。おそらく直感的ではありませんが、よりランダムなアルゴリズム（ランダムな決定木など）を使用して、非常に意図的なアルゴリズム（エントロピーを削減する決定木など）よりも強いアンサンブルを生成できます。ただし、さまざまな強力な学習アルゴリズムを使用することは、多様性を促進するためにモデルをダムダウンする手法を使用するよりも効果的であることが示されています。