Границы и ограничения ИИ

Введение в ИИ для работы

James Chapman

AI Curriculum Manager, DataCamp

Риск №1: Фабрикация знаний

 

  • Или галлюцинация: ложная информация, ошибочно представленная ИИ как достоверная
  • Примеры:
    • Неверная статистика
    • Фиктивные источники
    • Несуществующие события

hallucination1.jpg

Введение в ИИ для работы

Риск №1: Фабрикация знаний

 

  • Или галлюцинация: ложная информация, ошибочно представленная ИИ как достоверная
  • Примеры:
    • Неверная статистика
    • Фиктивные источники
    • Несуществующие события

hallucination2.jpg

Введение в ИИ для работы

Риск №1: Фабрикация знаний

hallucination3.jpg

Введение в ИИ для работы

Риск №2: Устаревшие данные

 

  • Дата ограничения знаний → предел актуальности данных модели

  • Примеры:

    • Устаревшие нормативы, цены, адреса и синтаксис кода

  • Проверяйте актуальные факты по свежим источникам

  • Многие инструменты ИИ поддерживают поиск в интернете

recency.png

Введение в ИИ для работы

Риск №3: Предвзятые ответы

biased.png

 

  • Отражает и усиливает социальные предубеждения из обучающих данных
  • Результат → стереотипный или дискриминационный контент
  • Внимательно проверяйте контент, созданный ИИ!
Введение в ИИ для работы

Риск №4: Угодливые ответы

 

  • Угодничество → ИИ говорит то, что вы хотите услышать

    • Поддерживает точку зрения, одобряет решения, подтверждает мнение

  • Проблематично, когда нужен критический взгляд

sycophancy.png

Введение в ИИ для работы

Риск №4: Угодливые ответы

 

  • Угодничество → ИИ говорит то, что вы хотите услышать

    • Поддерживает точку зрения, одобряет решения, подтверждает мнение

  • Проблематично, когда нужен критический взгляд

  • Следствие того, как LLM обучаются на оценках людей

 

sycophany_research.png

1 https://arxiv.org/abs/2510.01395
Введение в ИИ для работы

Риск №5: Конфиденциальность и утечка данных

privacy.png

 

  • Данные, переданные ИИ-инструментам, могут не оставаться конфиденциальными!
  • Загрузка таблиц, документов или клиентских данных сопряжена с риском
  • Данные могут храниться на внешних серверах, использоваться для обучения модели или быть доступны для поиска
Введение в ИИ для работы

Риск №5: Конфиденциальность и утечка данных

crying.png

 

Риски

  • Нарушение законов о защите данных (например, GDPR)
  • Потеря конкурентного преимущества
  • Утрата доверия клиентов

 

  • Всегда проверяйте политику конфиденциальности ИИ-инструмента
  • При сомнениях — проконсультируйтесь с IT- или InfoSec-специалистом
Введение в ИИ для работы

От рисков к ответственности

risks_summary_v2.png

 

car.png

Введение в ИИ для работы

Давайте потренируемся!

Введение в ИИ для работы

Preparing Video For Download...