Metode ensemble atau ensemble method adalah algoritma dalam pembelajaran mesin (machine learning) dimana algoritma ini sebagai pencarian solusi prediksi terbaik dibandingkan yang lain karena metode ensemble ini menggunakan algoritma learning berganda untuk pencapaian solusi prediksi yang lebih akurat daripada model-model tunggal . tidak seperti statistik ensemble dalam statistik mekanik dimana biasanya selalu tak terbatas. Pembelajaran mesin ensemble ini hanya konkrit finite set dari alternatif model, tetapi biasanya memungkinkan lebih banyak lagi struktur fleksibel yang ada diantara alternatif model itu sendiri.

Evaluasi prediksi dari ensemble biasanya memerlukan banyak komputasi daripada evaluasi prediksi model tunggal (single model), jadi ensemble ini memungkinkan untuk mengimbangi poor learning algorithms oleh performasi lebih dari komputasi itu. algoritma cepat(fast algorithms) seperti decision trees biasanya dipakai dalam metode ensemble ini seperti random forest, meskipun algoritma yang lebih lambat dapat memperoleh manfaat dari teknik ensemble juga.

Klasifikasi

Bagging

Bagging merupakan metode yang dapat memperbaiki hasil dari algoritma klasifikasi machine learning dengan menggabungkan klasifikasi prediksi dari beberapa model. Hal ini digunakan untuk mengatasi ketidakstabilan pada model yang kompleks dengan kumpulan data yang relatif kecil.

Boosting

Boosting merupakan cara untuk menghasilkan beberapa model atau penggolongan untuk prediksi atau klasifikasi, dan juga menggabungkan prediksi dari berbagai model ke dalam prediksi tunggal.

Stacking

stacking merupakan cara untuk mengkombinasi beberapa model, dengan konsep meta learner. dipakai setelah bagging dan boosting. tidak seperti bagging dan boosting, stacking memungkinkan mengkombinasikan model dari tipe yang berbeda.

Referensi