Снижение рисков ИИ

Введение в ИИ для работы

James Chapman

AI Curriculum Manager, DataCamp

Борьба с фабрикацией знаний

Доверяй, но проверяй

Всегда проверяйте важную информацию
- 📈 Числа и данные
- 📖 Цитаты и ссылки
- 🏛 Исторические факты и даты
- 💻 Технические детали

Почему ИИ делает необоснованные утверждения

Модели ИИ генерируют наиболее вероятное следующее слово
В обучающих данных фраза «Я не знаю» встречается крайне редко

¹ https://openai.com/index/why-language-models-hallucinate/

Учите ИИ признавать неопределённость

🤝 Право на отказ от ответа: «Если вы не уверены, скажите „Я не знаю", а не угадывайте.»

🎯 Калибровка: «Пометьте каждое утверждение: уверен / не уверен / предположение.»

📚 Указывайте источник: «Для каждого фактического утверждения приведите источник или пометьте его как непроверенное.»

🧹 Самопроверка: «Перечислите всё, что может быть ошибочным или основанным на допущениях.»

🧭 Ограничение области: «Опирайтесь только на то, что явно указано во входных данных. Не делайте умозаключений.»

Борьба с устареванием данных

Всегда проверяйте дату окончания обучения модели
Верифицируйте всё, что произошло после неё
- 💰 Цены
- 🏛 Регуляторные изменения
- 👷 Кадровые перестановки
- 📰 Новости
🌐 Используйте поддержку веб-поиска

Борьба с предвзятостью в ответах ИИ

Критически анализируйте результаты
- 🤝 Материалы по найму
- ✨ Маркетинговые материалы
- 👉 Принятие решений
❗ Инструменты обнаружения предвзятости

Борьба с угодливостью ИИ

🧭 Направляйте ИИ к объективности и критическому анализу
🤔 Сохраняйте скептицизм в отношении ответов ИИ
💬 Явно запрашивайте критическую обратную связь
- Какие потенциальные проблемы есть у этого подхода?
- Какие альтернативные точки зрения существуют по этому вопросу?

Защита конфиденциальности и данных

Никогда не передавайте:
- 🔑 Пароли и учётные данные
- 🔍 Персональные данные клиентов (например, ПДн)
- 📣 Конфиденциальную информацию компании
- 📜 Секретные стратегии и планы

Правило: если вы не готовы опубликовать это публично, не вставляйте это в стандартный инструмент ИИ

Контрольный список безопасности ИИ

Контрольный список безопасности ИИ

Контрольный список безопасности ИИ

Контрольный список безопасности ИИ

Контрольный список безопасности ИИ

Контрольный список безопасности ИИ

Давайте потренируемся!

Введение в ИИ для работы

Preparing Video For Download...