Каузальна ментальна модель рішення в задачі побудови пояснень в інтелектуальній інформаційній системі
DOI:
https://doi.org/10.30837/0135-1710.2024.183.082Ключові слова:
каузальна ментальна модель, пояснення, інтелектуальна система, темпоральна залежність, каузальна залежність, причинно-наслідковий зв’язок, система штучного інтелектуАнотація
Предметом дослідження є процес побудови каузальних ментальних моделей рішення інтелектуальної системи. Метою є розробка каузального підходу до побудови ментальних моделей рішення в системах штучного інтелекту для забезпечення можливості побудови та уточнення пояснення згідно зі знаннями користувача про предметну область. Задачі: структуризація ментальних моделей з урахуванням їхніх властивостей в аспекті формування пояснень в інтелектуальних системах; розробка каузальної ментальної моделі рішення інтелектуальної системи. Висновки. Виконано аналіз можливостей використання ментальних моделей в задачі побудови пояснень з виділенням каузальних, аналогічних, фольклорних та динамічних моделей. Наукова новизна отриманих результатів полягає в такому. Запропоновано каузальну ментальну модель рішення інтелектуальної системи, яка містить набір альтернативних представлень причин і наслідків отриманого рішення з урахуванням можливостей та обмежень щодо використання рішення. Модель враховує як позитивні, так і негативні властивості отриманого результату, що створює умови для підвищення рівня довіри користувачів. Розроблено формальне представлення каузальної ментальної моделі, що містить темпорально упорядковані правила, які пов'язують вхідні дані як причини та властивості отриманого рішення як наслідки. Правила об'єднуються в альтернативи, що дає можливість підбирати пояснення згідно з обмеженнями щодо вхідних даних та обмежень щодо можливостей використання рішення інтелектуальної системи.
Посилання
Nassih, R., & Berrado, A. (2020). State of the art of fairness, interpretability and explainability in machine learning: Case of prim. In Proceedings of the 13th International Conference on Intelligent Systems: Theories and Applications (pp. 1-5). https://doi.org/10.1145/3419604.3419776
Adadi, A., & Berrada, M. (2018). Peeking inside the black-box: A survey on Explainable Artificial Intelligence (XAI). IEEE Access, 6, 52138-52160. https://doi.org/10.1109/ACCESS.2018.2870052
Rook, L. (2021). Mental models: A robust definition. The Learning Organization, 28(1), 6-17. https://doi.org/10.1108/TLO-09-2019-0136
Gunning і D. Aha, (2019) “DARPA’s Explainable Artificial Intelligence (XAI) Program”, AI Magazine, Vol. 40(2), pp.44-58, doi: 10.1609/aimag.v40i2.2850.
Frasca, M., La Torre, D., Pravettoni, G., Manzoni, G. M., & Caputo, A. (2024). Explainable and interpretable artificial intelligence in medicine: a systematic bibliometric review. Discovery Artificial Intelligence, 4, 15. https://doi.org/10.1007/s44163-024-00114-7
Tversky, B. (2019). Mind in motion: How action shapes thought. Trends in Cognitive Sciences, 23(11), 935-944. https://doi.org/10.1016/j.tics.2019.08.007
Chala O. (2018) Models of temporal dependencies for a probabilistic knowledge base. Econtechmod. An International Quarterly Journal. Vol. 7, No. 3. P. 53 – 58.
Чала О. В. (2020) Модель узагальненого представлення темпоральних знань для задач підтримки управлінських рішень. Вісник Національного технічного університету «ХПІ». Системний аналіз, управління та інформаційні технології. № 1(3). С. 14-18. https://doi.org/10.20998/2079-0023.2020.01.03.
Chalyi, S., & Leshchynskyi, V. (2020). Temporal representation of causality in the construction of explanations in intelligent systems. Advanced Information Systems, 4(3), 113–117. https://doi.org/10.20998/2522-9052.2020.3.16.
Чалий, С., & Лещинська, І. (2023). Концептуальна ментальна модель пояснення в системі штучного інтелекту. Вісник Національного технічного університету «ХПІ». Серія: Системний аналiз, управління та iнформацiйнi технологiї, (1 (9), 70–75. https://doi.org/10.20998/2079-0023.2023.01.
Byrne, R. M. (2002). Mental models and counterfactual thoughts about what might have been. Trends in Cognitive Sciences, 6(10), 426-431. https://doi.org/10.1016/S1364-6613(02)01974-5
Чалий С. Ф., Лещинська І. О. Принципи побудови ментальних моделей рішення для зовнішнього користувача в задачі формування пояснень в інтелектуальній системі. АСУ та прилади автоматики. Вип. 181. 2024. С. 82-90. https://doi.org/10.30837/0135-1710.2024.181.082
Чалий С.Ф., Лещинська І.О. Уточнення ментальної моделі рішення на основі доповнення вхідних даних в задачі формування пояснень в інтелектуальній системі. АСУ та прилади автоматики. 2024. Вип. 182. С. 66-72. https://doi.org/10.30837/0135-1710.2024.182.066
Johnson-Laird, P. N. (1983). Mental models: Towards a cognitive science of language, inference, and consciousness. Harvard University Press.
Johnson-Laird, P. N. (2006). How we reason. Oxford University Press.
Gentner, D., & Gentner, D. R. (1983). Flowing waters or teeming crowds: Mental models of electricity
Vosniadou, S., & Brewer, W. F. (1992). Mental models of the Earth: A study of conceptual change in childhood. Cognitive Psychology, 24(4), 535–585.
Carey, S. (1985). Conceptual change in childhood. Cambridge: MIT Press.
Markman, A. B. (1999). Knowledge representation. Psychology Press.
