Аудит даних

Відповідальне керування даними для ШІ

Maria Prokofieva

Lead ML engineer

Що ми розглянемо

• Аудит даних
• Валідація даних
• Стратегії пом'якшення упереджень

Аудит даних

• Повний огляд даних упродовж життєвого циклу проєкту

• Перевірка технічного стану та відповідального використання

• Проводиться після значної зміни в проєкті

• Оновлена документація для аудиту

Проведення аудиту даних

• Виконуйте часто
• Щоб не внести проблеми ненавмисно
• Захист від ускладнень і накопичення помилок
• Прозорість і підзвітність
• Формуйте довіру

AI-фінансовий радник

• Профіль поведінки та цілі плану
• Розробити стратегію
• Узгодити цілі з інвестпродуктами
• Створити інвестпортфель

Джерела даних:

• Дані користувачів із чату та завантажень
• Зовнішні дані в реальному часі та історичні (Bloomberg)

¹ Зображення: Streamline HQ

Джерела даних проєкту

• Дані, надані користувачем
• Зовнішні дані з API

¹ Зображення: Streamline HQ

Налаштування аудиту даних

Використовуйте план керування даними:

• Деталі про дані
• Періодичність аудиту
• Необхідні тести
• Призначені члени команди

¹ Зображення: Streamline HQ

Графік аудитів даних

• Початкове дослідження даних
• Регулярні аудити для препроцесингу та моделювання
• Будь-які суттєві зміни в даних

¹ Зображення: Streamline HQ

Поточні аудити даних

• Регулярний безперервний моніторинг
• Якість даних і відповідність вимогам
• Продуктивність моделі та метрики справедливості
• Використання й зберігання даних
• Безпека та масштабованість

Дрейф моделі

• Точність моделі може знижуватися з часом
• Через суспільні зміни, ринок або базові змінні
• Виявляйте дрейф, логуючи прогнози й оцінюючи метрики
• Сповіщайте, якщо метрики перевищують поріг
• Усуньте: додайте нові дані або перенавчіть модель

Аудити даних у AI-фінансовому раднику

• Початкове дослідження даних
• Препроцесинг: перетворення та очищення
• Моделювання з оцінкою справедливості
• Аудит перед розгортанням
• Безперервний моніторинг

¹ Зображення: Streamline HQ

Давайте потренуємось!

Відповідальне керування даними для ШІ