Метод оцінки негативних аспектів рішення інтелектуальної системи в задачах побудови пояснень

Анотація

Предметом дослідження є процес оцінки негативних аспектів рішень інтелектуальних систем при формуванні користувацьких ментальних моделей для створення збалансованих пояснень. Метою є розробка методу  до оцінки негативних аспектів рішень інтелектуальних систем з тим, щоб забезпечити формування збалансованих пояснень на основі інтеграції суттєвих негативних характеристик у ментальні моделі користувачів. Задачі: розробити гібридний підхід до побудови ментальної моделі, який поєднує аналіз важливості та контекстуальний аналіз релевантності рішень з метою комплексної оцінки негативних властивостей вибраного користувачем рішення; розробити метод оцінки негативних аспектів користувацького рішення при побудові ментальної моделі користувача для автоматизованого виявлення та упорядкування негативних характеристик цього рішення. Використано принципи побудови ментальних моделей користувачів інтелектуальної системи, метод SHAP-аналізу, методи сентимент-аналізу, методи контекстного аналізу. Отримано такі результати.  Запропоновано гібридний підхід до побудови ментальної моделі на основі комбінованої оцінки негативних властивостей рішення інтелектуальної системи. Розроблено метод оцінки негативних аспектів рішення інтелектуальної системи. Висновки. Наукова новизна отриманих результатів полягає в такому. Запропоновано метод оцінки негативних аспектів рішення інтелектуальної системи, який містить етапи попередньої обробки вхідних неструктурованих даних, SHAP-аналізу важливості негативних властивостей, контекстного аналізу негативних властивостей та формування комбінованої оцінки рішення. Метод забезпечує можливість обґрунтованого вибору рішення користувачем з урахуванням його ключових негативних властивостей та створює умови для побудови зрозумілих пояснень і підвищення довіри користувачів.