Ensiklopedia Algoritma Machine Learning
Referensi teknis konsep matematis, alur eksekusi, parameter, kelebihan, dan limitasi.
Klasifikasi (Supervised)
Clustering (Unsupervised)
Random Forest
Tugas: classification1. Konsep Teoretis
Random Forest bekerja dengan membangun sekumpulan pohon keputusan (Decision Trees) selama proses training, kemudian menggabungkan output suara mayoritas (voting) dari seluruh pohon untuk menentukan kelas prediksi akhir.
2. Alur Cara Kerja
1. Bootstrap Aggregating (Bagging): Memilih subset data acak dengan pengembalian untuk setiap pohon.
2. Random Feature Selection: Pada setiap pemisahan node, hanya subset feature acak yang dipertimbangkan.
3. Training Trees: Setiap pohon dilatih secara independen sampai kedalaman maksimal tanpa pemangkasan (pruning).
4. Majority Voting: Mengagregasi prediksi seluruh pohon untuk menghasilkan probabilitas dan kelas final.
3. Contoh Kasus Penggunaan
Deteksi churn nasabah, fraud detection pada transaksi perbankan, dan klasifikasi kelayakan kredit.
Kelebihan
- •Tahan terhadap overfitting dibandingkan single decision tree.
- •Mampu menangani feature numerik dan kategorikal sekaligus.
- •Menyediakan feature importance yang objektif.
Keterbatasan
- •Model lebih lambat saat inferensi jika jumlah pohon sangat besar.
- •Lebih sulit diinterpretasikan daripada satu pohon tunggal (black-box ensemble).
5. Hyperparameter Utama
n_estimatorsdefault: 100
Jumlah pohon keputusan dalam ensemble. Nilai lebih tinggi umumnya mengurangi variance tetapi menambah waktu komputasi.
max_depthdefault: 10
Kedalaman maksimal tiap pohon untuk mencegah overfitting pada training set.
min_samples_splitdefault: 2
Jumlah minimum sampel yang diperlukan untuk membelah sebuah node internal.