Analisis Penerapan Explainable AI (XAI) Menggunakan Shapley Additive Explanation pada Model Random Forest untuk Prediksi Risiko Kredit

Anbirama Auberta Anggi Prabata; Fajar Suryani; Dwi  Hartanti

Authors

Anbirama Auberta Anggi Prabata Universitas Duta Bangsa Surakarta
Fajar Suryani Universitas Duta Bangsa Surakarta
Dwi Hartanti Universitas Duta Bangsa Surakarta

Keywords:

Risiko kredit, random forest, Explainable AI, SHAP, machine learning, prediksi kredit

Abstract

Pesatnya perkembangan teknologi kecerdasan buatan telah mendorong lembaga keuangan untuk mengadopsi algoritma machine learning dalam proses penilaian risiko kredit. Namun, model berperforma tinggi seperti Random Forest cenderung bersifat black-box, sehingga sulit dipahami oleh manajemen maupun regulator dan menghambat proses audit serta pengambilan keputusan strategis. Penelitian ini bertujuan untuk menganalisis penerapan Explainable Artificial Intelligence (XAI) melalui metode Shapley Additive Explanations (SHAP) pada model Random Forest guna menghasilkan sistem prediksi risiko kredit yang tidak hanya akurat, tetapi juga transparan dan dapat dipertanggungjawabkan. Penelitian menggunakan dataset historis kredit publik dengan 32.581 observasi dan 10 variabel masukan, yang diproses melalui tahapan preprocessing, pelatihan model, evaluasi, dan analisis SHAP, serta dikemas dalam platform web interaktif berbasis Streamlit. Hasil penelitian menunjukkan model Random Forest mencapai Akurasi 80,91%, Recall 82,85%, dan AUC-ROC 0,8722. Analisis SHAP mengkonfirmasi bahwa Suku Bunga merupakan fitur paling berpengaruh terhadap risiko gagal bayar, diikuti Tujuan Pinjaman dan Status Rumah. Integrasi XAI berhasil membuka sifat black-box model tanpa mengorbankan akurasi prediksi, sehingga setiap keputusan dapat dijelaskan secara transparan kepada seluruh pemangku kepentingan lembaga keuangan.

References

[1] D. E. Susilo, N. S. Sandyawati, F. A. Hapsari, S. Tinggi, and I. A. Bayuangga, “Pengaruh Machine Learning dalam Mitigasi Risiko Kredit, Deteksi Fraud dan Mitigasi Kerugian Finansial Perbankan Digital,” 2026.

[2] D. Hartanti, A. I. Pradana, and S. Lestari, “Komprasi Algoritma Decision Tree, SVM dan ANN untuk Reservasi Hotel,” 2023.

[3] V. Chamola, V. Hassija, A. R. Sulthana, D. Ghosh, D. Dhingra, and B. Sikdar, “A Review of Trustworthy and Explainable Artificial Intelligence (XAI),” IEEE Access, vol. 11, pp. 78994–79015, 2023, doi: 10.1109/ACCESS.2023.3294569.

[4] T. Hulsen, “Explainable Artificial Intelligence (XAI): Concepts and Challenges in Healthcare,” Sep. 01, 2023, Multidisciplinary Digital Publishing Institute (MDPI). doi: 10.3390/ai4030034.

[5] L. H. Li, A. K. Sharma, and S. T. Cheng, “Explainable AI based LightGBM prediction model to predict default borrower in social lending platform,” Intelligent Systems with Applications, vol. 26, 2025, doi: 10.1016/j.iswa.2025.200514.

[6] M. K. Nallakaruppan et al., “Credit Risk Assessment and Financial Decision Support Using Explainable Artificial Intelligence,” Risks, vol. 12, no. 10, 2024, doi: 10.3390/risks12100164.

[7] X. Zhu, Q. Chu, X. Song, P. Hu, and L. Peng, “Explainable prediction of loan default based on machine learning models,” Data Science and Management, vol. 6, no. 3, pp. 123–133, 2023, doi: 10.1016/j.dsm.2023.04.003.

[8] M. Rambauli, T. Ravele, and C. Sigauke, “Application of Explainable AI and Uncertainty Quantification in Credit Risk Assessment,” Risks, vol. 14, no. 7, 2026, doi: 10.3390/risks14070152.

[9] A. Maulani, Nor Norisanti, and Asep M. Ramdan, “Analisis Penyaluran Kredit, dan Kredit Macet terhadap Profitabilitas: Studi Keuangan Pada Sektor Perbankan yang Terdaftar di Bursa Efek Indonesia Periode 2023,” Al-Kharaj: Jurnal Ekonomi, Keuangan & Bisnis Syariah, vol. 6, no. 11, Nov. 2024, doi: 10.47467/alkharaj.v6i11.3596.

[10] Y. E. Jedho et al., “Analisis Strategi Penanganan Kredit Macet Berdasarkan Konsep Manajemen Risiko Kredit Pada KSP Kopdit Tuke Jung Universitas Nusa Nipa, Indonesia,” 2026, doi: 10.59603/projemen.v12i1,1238.

[11] A. Maulana, “Penerapan Logika Fuzzy Sugeno Untuk Keputusan Kelayakan Kredit Bank,” 2024.

[12] R. Bahlool, N. Hewahi, and W. Elmedany, “Performance, Fairness, and Explainability in AI-Based Credit Scoring: A Systematic Literature Review,” Journal of Risk and Financial Management, vol. 19, no. 2, 2026, doi: 10.3390/jrfm19020104.

[13] S. Abdulla et al., “Journal of Business and Management Studies Credit Risk Prediction Using Explainable AI,” 2024, doi: 10.32996/jbms.

[14] F. Suryani and Y. M. Imani, “Pengembangan Dashboard Inventory dan Dashboard Penjualan Berbasis Web untuk,” 2025.

[15] H. Li and W. Wu, “Loan default predictability with explainable machine learning,” Financ. Res. Lett., vol. 60, 2024, doi: 10.1016/j.frl.2023.104867.

[16] N. Alamsyah, Budiman, T. P. Yoga, and R. Y. R. Alamsyah, “A stacking ensemble model with SMOTE for improved imbalanced classification on credit data,” Telkomnika (Telecommunication Computing Electronics and Control), vol. 22, no. 3, pp. 657–664, 2024, doi: 10.12928/TELKOMNIKA.v22i3.25921.

[17] I. Mapfumo and T. Shongwe, “Performance Evaluation of Machine Learning and Deep Learning Models for Credit Risk Prediction,” Journal of Risk and Financial Management, vol. 19, no. 3, 2026, doi: 10.3390/jrfm19030210.