Графова нейронна мережа для темпорально упорядкованих даних в задачі побудови пояснень в інтелектуальній системі
DOI:
https://doi.org/10.30837/0135-1710.2025.185.077Ключові слова:
інтелектуальна система, система штучного інтелекту, пояснення, самопояснювальний штучний інтелект, графова нейронна мережа, темпоральні дані, механізм уваги, векторні представлення, LSTM, темпоральні патерниАнотація
Об'єктом дослідження є процес побудови пояснень в інтелектуальних інформаційних системах. Предметом дослідження є моделі та методи формування пояснень в інтелектуальних інформаційних системах. Метою роботи є розробка моделі графової нейронної мережі, яка використовує темпоральний порядок у вхідних даних для побудови пояснень щодо процесу формування рішення в інтелектуальній системі. Завданнями дослідження є розробка моделі графової нейронної мережі для темпорально упорядкованих даних; експериментальна перевірка графової мережі в задачі побудови пояснень для системи електронної комерції. Запропоновано модель графової нейронної мережі, яка включає функціональні блоки побудови векторних представлень, виявлення темпоральних патернів з використанням мережі LSTM, формування графа мережі на заданому інтервалі часу, підготовки пояснень, прогнозування, генерації пояснень щодо прогнозних рішень з використанням механізму уваги. Механізм уваги комбінує темпоральні патерни для окремих вершин графової мережі та для взаємопов'язаних вершин графа. Розроблена модель забезпечує циклічне формування графової мережі для визначених часових інтервалів з використанням загальних правил навчання, що дозволяє виявляти темпоральні патерни та порівнювати ці патерни на різних інтервалах часу. Експериментальна перевірка підтвердила здатність мережі враховувати як статичні властивості вхідних об'єктів, так і динамічні зміни цих властивостей у часі. Додаткова перевага розробленої мережі полягає у можливості послідовної деталізації факторів, що пояснюють вплив вхідних даних на прогнозні результати роботи моделюючої системи.
Посилання
Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). "Why should I trust you?" Explaining the predictions of any classifier. In Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (pp. 1135-1144).
Adadi, A., & Berrada, M. (2018). Peeking inside the black-box: A survey on Explainable Artificial Intelligence (XAI). IEEE Access, 6, 52138-52160. https://doi.org/10.1109/ACCESS.2018.2870052
Чалий, С. Ф., & Лещинська, І. О. (2024). Принципи побудови ментальних моделей рішення для зовнішнього користувача в задачі формування пояснень в інтелектуальній системі. АСУ і прилади автоматики, 181, 17-25.
Gunning, D., & Aha, D. W. (2019). DARPA’s Explainable Artificial Intelligence (XAI) program: A retrospective. AI Magazine, 40(2), 44-58. https://doi.org/10.1609/aimag.v40i2.2850.
Miller, T. (2019). Explanation in artificial intelligence: Insights from the social sciences. Artificial Intelligence, 267, 1-38.
Чалий, С., & Лещинська, І. (2023). Концептуальна ментальна модель пояснення в системі штучного інтелекту. Вісник Національного технічного університету «ХПІ». Серія: Системний аналiз, управління та iнформацiйнi технологiї, 1 (9), 70–75. https://doi.org/10.20998/2079-0023.2023.01.11
Arrieta, A. B., Díez-Rodríguez, N., Del Ser, J., Bennetot, A., Tabik, S., Barbado, A., ... & Herrera, F. (2020). Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information Fusion, 58, 82-115.
Чалий, С., Лещинський, В., & Лещинська, І. (2022). Каузальна модель процесу побудови пояснень в інформаційній системі. Системи управління, навігації та зв'язку, 3(69), 99-103. https://doi.org/10.26906/SUNZ.2022.3.099.
Wu, Z., Pan, S., Chen, F., Long, G., Zhang, C., & Philip, S. Y. (2020). A comprehensive survey on graph neural networks. IEEE Transactions on Neural Networks and Learning Systems, 32(1), 4-24.
Zheng, C., Fan, X., Wang, C., & Qi, J. (2020). GMAN: A graph multi-attention network for traffic prediction. In Proceedings of the AAAI Conference on Artificial Intelligence, 34 (01), 1234-1241.
Battaglia, P. W., Hamrick, J. B., Bapst, V., Sanchez-Gonzalez, A., Zambaldi, V., Malinowski, M., ... & Pascanu, R. (2018). Relational inductive biases, deep learning, and graph networks. arXiv preprint arXiv:1806.01261.
Xu, K., Hu, W., Leskovec, J., & Jegelka, S. (2018). How powerful are graph neural networks? arXiv preprint arXiv:1810.00826.
Zhao, L., Song, Y., Zhang, C., Liu, Y., Wang, P., Lin, T., ... & Li, H. (2019). T-gcn: A temporal graph convolutional network for traffic prediction. IEEE Transactions on Intelligent Transportation Systems, 21(9), 3848-3858.
Jin, G., Liang, Y., Fang, Y., Huang, J., Zhang, J., & Zheng, Y. (2023). Spatio-temporal graph neural networks for predictive learning in urban computing: A survey. IEEE Transactions on Knowledge and Data Engineering, 35(8), 8075-8095.
Li, Y., Yu, R., Shahabi, C., & Liu, Y. (2017). Diffusion convolutional recurrent neural network: Data-driven traffic forecasting. arXiv preprint arXiv:1707.01926.
Veličković, P., Cucurull, G., Casanova, A., Romero, A., Lio, P., & Bengio, Y. (2017). Graph attention networks. arXiv preprint arXiv:1710.10903.
Чала, О. В., «Моделі, методи та інформаційні технології автоматизованого управління темпоральними базами знань для підтримки управлінських рішень», дис. докт. техн. наук, Харків. нац. ун-т радіоелектроніки, Харків, 2021. [Електронний ресурс]. Режим доступу: https://nure.ua/wp-content/uploads/2021/Disertation/robota_chaloi_ov.pdf. Дата звернення: 20.05.2025.
Чала, О. В. (2018). Принципи автоматизованої побудови та використання темпоральної бази знань для підтримки прийняття рішень з управління підприємством. Системи управління, навігації та зв'язку, 6, 122-128. https://doi.org/10.26906/SUNZ.2018.6.122
Chalyi, S., & Leshchynskyi, V. (2022). Temporal-oriented model of causal relationship for constructing explanations for decision-making process. Advanced Information Systems, 6(3), 60–65. https://doi.org/10.20998/2522-9052.2022.3.09
Чалий С. Ф., Лещинський В. О. (2024). Темпорально-каузальні методи побудови пояснень в системах штучного інтелекту. АСУ та прилади автоматики, 181, 91-99. https://doi.org/10.30837/0135-1710.2024.181.091.
Чалий С. Ф., Лещинський В. О., Лещинська І. О. (2021). Контрфактуальна темпоральна модель причинно-наслідкових зв'язків для побудови пояснень в інтелектуальних системах. Вісник Національного технічного університету «ХПІ». Сер. : Системний аналіз, управління та інформаційні технології: зб. наук. пр. Харків : НТУ «ХПІ», 2 (6), 41-46. https://doi.org/10.20998/2079-0023.2021.02.07.
Guidotti, R., Monreale, A., Ruggieri, S., Turini, F., Giannotti, F., & Pedreschi, D. (2018). A survey of methods for explaining black box models. ACM Computing Surveys, 51(5), 1-42.
