Объяснимый искусственный интеллект (XAI): обеспечение прозрачности и доверия пользователей в образовательных решениях — концептуальная модель

Аннотация

В статье рассматривается применение методов объяснимого искусственного интеллекта (XAI, Explainable Artificial Intelligence) в образовательных системах: как сделать решения ИИ прозрачными и как сформировать доверие к ним у студентов и преподавателей. Систематизированы концептуальные основы XAI: подходы ante-hoc и post-hoc, основные методы (SHAP, LIME, Attention Visualization, ANCHORS) и таксономии объяснимости. Предложена четырёхуровневая концептуальная модель доверия пользователей к AI-системам в образовании, в которой выделены уровни данных, модели, интерфейса и управления. Методы XAI сопоставлены по прозрачности, точности объяснений и применимости в образовательной среде. Показано, почему XAI-системы должны отвечать требованиям EU AI Act 2024. В заключение даны рекомендации по внедрению XAI в образовательные AI-платформы высших учебных заведений Узбекистана.