ЗАСТОСУВАННЯ ДЕРЕВ РІШЕНЬ З НЕЙРОННОЮ ПІДТРИМКОЮ У ЗАДАЧАХ ШТУЧНОГО ІНТЕЛЕКТУ
##plugins.themes.bootstrap3.article.sidebar##
##plugins.themes.bootstrap3.article.main##
Анотація
У статті досліджено гібридні моделі машинного навчання, що поєднують дерева рішень
із нейронними мережами з метою одночасного досягнення високої точності прогнозування та
інтерпретованості рішень. Проаналізовано сучасні архітектури таких моделей: Neural
Decision Trees (NDT), Differentiable Decision Trees, Neural Oblivious Decision Trees (NODE),
TabNet та Neural-Backed Decision Trees (NBDT). Практична реалізація включає побудову
гібридної моделі на датасетах Iris та нобелівських лауреатів з використанням SHAP-аналізу
для інтерпретації отриманих результатів, що підтверджує ефективність та практичну
застосовність описаного підходу.
##plugins.themes.bootstrap3.article.details##
Ця робота ліцензується відповідно до Creative Commons Attribution 4.0 International License.
Посилання
Breiman L., Friedman J., Stone C. J., Olshen R. A. (1984) Classification and regression trees. CRC press.
Quinlan J. R. (1986) Induction of decision trees. Machine learning, 1 (1), pp. 81–106.
Goodfellow I., Bengio Y., Courville A. (2016) Deep learning. MIT press.
LeCun Y., Bengio Y., Hinton G. (2015) Deep learning. Nature, 521 (7553), pp. 436–444.
Kontschieder P., Fiterau M., Criminisi A., Rota Bulo S. (2015) Deep neural decision forests. Proceedings
of the IEEE ICCV, pp. 1467–1475.
Zhou Z. H. (2012) Ensemble methods: foundations and algorithms. CRC press.
Irsoy O., Yıldız O. T., Alpaydın E. (2012) Soft decision trees. 21st International Conference on Pattern
Recognition (ICPR), pp. 1819–1822.
Kaddour J., Lynch A., Liu Q., Kusner M. J., Silva R. (2022) When do neural nets outperform boosted trees
on tabular data? arXiv:2305.02997.
Neural-Backed Decision Trees. Available at: https://research.alvinwan.com/neural-backed-decision-trees/
Arik S. Ö., Pfister T. (2021) TabNet: Attentive interpretable tabular learning. Proceedings of the AAAI
Conference on Artificial Intelligence, Vol. 35, No. 8, pp. 6679–6687.
Popov S., Morozov S., Babenko A. (2019) Neural oblivious decision trees for deep learning on tabular data.
arXiv:1909.06312.