Futuro da XAI

Conceitos de Inteligência Artificial Explicável (XAI)

Folkert Stijnman

ML Engineer

Avanços em técnicas de interpretabilidade

Quanto mais complexidade, maior a necessidade de XAI
Métodos sofisticados agnósticos ao modelo
Ferramentas de visualização
Interfaces interativas

captura de tela do título do artigo XAI for All: Can Large Language Models Simplify Explainable AI?

¹ Mavrepis, P., Makridis, G., Fatouros, G., Koukos, V., Separdani, M. M., & Kyriazis, D. (2024). XAI for All: Can Large Language Models Simplify Explainable AI?. arXiv preprint arXiv:2401.13110.

Enfrentando o desafio de escalabilidade

Técnicas de XAI exigem muita computação
XAI deve escalar com o crescimento da IA
Integração com computação em nuvem

gráfico mostrando vários sistemas de IA

Abordagens multidisciplinares para XAI

gráfico de pessoas de diferentes origens trabalhando juntas

Conectar IA com ciências sociais e humanas
Colaboração entre pesquisadores de IA, eticistas, psicólogos e cientistas sociais
Incorporar design de UX

Desafios futuros

Crescimento do uso de LLMs
Mais regulações, como o AI Act da UE
Ficar atento a privacidade, vieses e ética em qualquer sistema de IA

gráfico mostrando um futuro com crescimento da IA

¹ https://artificialintelligenceact.eu/

Vamos praticar!

Conceitos de Inteligência Artificial Explicável (XAI)