Майбутнє XAI

Концепції Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Прогрес у методах інтерпретованості

Із зростанням складності зростає потреба в XAI
Вишукані методи, незалежні від моделі
Інструменти візуалізації
Інтерактивні інтерфейси

знімок екрана заголовка статті «XAI for All: Can Large Language Models Simplify Explainable AI?»

¹ Mavrepis, P., Makridis, G., Fatouros, G., Koukos, V., Separdani, M. M., & Kyriazis, D. (2024). XAI for All: Can Large Language Models Simplify Explainable AI?. arXiv preprint arXiv:2401.13110.

Подолання виклику масштабованості

Техніки XAI потребують багато обчислень
XAI має масштабуватись із зростанням використання ШІ
Інтеграція з хмарними обчисленнями

графіка, що зображує кілька систем ШІ

Міждисциплінарні підходи до XAI

графіка: люди з різних сфер працюють разом

Поєднати ШІ із соціальними науками та гуманітаристикою
Співпраця дослідників ШІ, етиків, психологів і соціологів
Враховувати дизайн користувацького досвіду (UX)

Майбутні виклики

Зростання використання LLM
Більше регулювання, наприклад EU AI Act
Важливо зважати на приватність, упередження та етичні наслідки будь-якої системи ШІ

графіка майбутнього, де ШІ зростає

¹ https://artificialintelligenceact.eu/

Давайте потренуємось!

Концепції Explainable Artificial Intelligence (XAI)