Будущее XAI

Концепции объяснимого искусственного интеллекта (XAI)

Folkert Stijnman

ML Engineer

Прогресс в методах интерпретируемости

По мере роста сложности возрастает потребность в XAI
Продвинутые методы, независимые от модели
Инструменты визуализации
Интерактивные интерфейсы

снимок экрана с заголовком статьи «XAI for All: Can Large Language Models Simplify Explainable AI?»

¹ Mavrepis, P., Makridis, G., Fatouros, G., Koukos, V., Separdani, M. M., & Kyriazis, D. (2024). XAI for All: Can Large Language Models Simplify Explainable AI?. arXiv preprint arXiv:2401.13110.

Решение проблемы масштабируемости

Методы XAI требуют значительных вычислительных ресурсов
XAI должен масштабироваться вместе с ростом применения ИИ
Интеграция с облачными вычислениями

графическое изображение нескольких систем ИИ

Междисциплинарные подходы к XAI

иллюстрация: группа людей из разных областей работает вместе

Соединение ИИ с социальными и гуманитарными науками
Сотрудничество исследователей ИИ, специалистов по этике, психологов и социологов
Применение принципов UX-проектирования

Будущие вызовы

Рост использования LLM
Развитие регулирования, в частности закон ЕС об ИИ
Важно учитывать вопросы конфиденциальности, предвзятости и этические последствия любой системы ИИ

иллюстрация будущего, в котором ИИ продолжает развиваться

¹ https://artificialintelligenceact.eu/

Давайте потренируемся!

Концепции объяснимого искусственного интеллекта (XAI)