Межі й обмеження ШІ

Вступ до AI для роботи

James Chapman

AI Curriculum Manager, DataCamp

Ризик №1: Фабрикація знань

 

  • Або галюцинація: хибні відомості, які ШІ помилково подає як правильні
  • Типові приклади:
    • Некоректна статистика
    • Фейкові посилання
    • «Вигадані» події

галюцинація1.jpg

Вступ до AI для роботи

Ризик №1: Фабрикація знань

 

  • Або галюцинація: хибні відомості, які ШІ помилково подає як правильні
  • Типові приклади:
    • Некоректна статистика
    • Фейкові посилання
    • «Вигадані» події

галюцинація2.jpg

Вступ до AI для роботи

Ризик №1: Фабрикація знань

галюцинація3.jpg

Вступ до AI для роботи

Ризик №2: Ігнорування актуальності

 

  • Knowledge cutoff date → гранична дата знань моделі про події

  • Приклади:

    • Застарілі норми, ціни, локації й синтаксис коду

  • Перевіряйте чутливі до часу факти в актуальних джерелах

  • Багато інструментів ШІ також підтримують пошук в інтернеті

актуальність.png

Вступ до AI для роботи

Ризик №3: Упереджені результати

упередженість.png

 

  • Відтворює й підсилює соціальні упередження з тренувальних даних
  • Наслідок → стереотипний або дискримінаційний контент
  • Ретельно перевіряйте матеріал, згенерований ШІ!
Вступ до AI для роботи

Ризик №4: Підлесливі відповіді

 

  • Підлесливість → каже те, що, на її думку, ви хочете почути

    • Підтверджує позиції, підтримує рішення й утверджує мислення

  • Проблемно, коли потрібен критичний погляд

підлесливість.png

Вступ до AI для роботи

Ризик №4: Підлесливі відповіді

 

  • Підлесливість → каже те, що, на її думку, ви хочете почути

    • Підтверджує позиції, підтримує рішення й утверджує мислення

  • Проблемно, коли потрібен критичний погляд

  • Побічний ефект того, як LLM навчають на людських оцінках відповідей

 

дослідження_підлесливості.png

1 https://arxiv.org/abs/2510.01395
Вступ до AI для роботи

Ризик №5: Конфіденційність і витік даних

конфіденційність.png

 

  • Інформація, передана інструментам ШІ, може не залишитися приватною!
  • Завантаження таблиць, документів чи клієнтських даних — ризиковано
  • Дані можуть зберігатися на зовнішніх серверах, використовуватися для навчання моделей або бути доступними для пошуку
Вступ до AI для роботи

Ризик №5: Конфіденційність і витік даних

плач.png

 

Ризики

  • Порушення законів про приватність (напр., GDPR)
  • Втрата конкурентної переваги
  • Підрив довіри клієнтів

 

  • Завжди перевіряйте політику даних інструменту ШІ
  • Якщо сумніваєтесь — зверніться до фахівця з ІТ або інформаційної безпеки
Вступ до AI для роботи

Від ризику — до відповідальності

підсумок_ризиків_v2.png

 

авто.png

Вступ до AI для роботи

Давайте потренуємось!

Вступ до AI для роботи

Preparing Video For Download...