Етичні аспекти та запобіжники

Вступ до Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Чому етичний ШІ важливий

  • Моделі ШІ можуть відтворювати упередження та генерувати шкідливий контент

Піктограма двох жінок у рожевому, що символізує гендерні упередження

Вступ до Amazon Bedrock

Чому етичний ШІ важливий

  • Моделі ШІ можуть відтворювати упередження та генерувати шкідливий контент

  • Ризики для приватності під час обробки чутливих даних

Піктограми, що символізують гендерні упередження та приватність

Вступ до Amazon Bedrock

Чому етичний ШІ важливий

  • Моделі ШІ можуть відтворювати упередження та генерувати шкідливий контент

  • Ризики для приватності під час обробки чутливих даних

  • Вимоги правового та регуляторного дотримання

Піктограми, що символізують гендерні упередження, приватність і відповідність вимогам

Вступ до Amazon Bedrock

Чому етичний ШІ важливий

  • Моделі ШІ можуть відтворювати упередження та генерувати шкідливий контент

  • Ризики для приватності під час обробки чутливих даних

  • Вимоги правового та регуляторного дотримання

  • Можливе зловживання для поширення дезінформації

Піктограми, що символізують гендерні упередження, приватність, відповідність і дезінформацію

Вступ до Amazon Bedrock

Чому етичний ШІ важливий

  • Моделі ШІ можуть відтворювати упередження та генерувати шкідливий контент

  • Ризики для приватності під час обробки чутливих даних

  • Вимоги правового та регуляторного дотримання

  • Можливе зловживання для поширення дезінформації

  • Ділова репутація та довіра стейкголдерів

Піктограми, що символізують гендерні упередження, приватність, відповідність, дезінформацію та довіру

Вступ до Amazon Bedrock

Захищаємо моделі запобіжниками

  • Запобіжники: захисні заходи
    • Фільтрація контенту
    • Виявлення упереджень
    • Суворі правила використання
  • Завжди починайте з найобмежувальнішого рівня
  • Рівень перевірки за замовчуванням для шкідливого контенту

 

Проста ілюстрація захисних бар'єрів: дві сірі горизонтальні перекладини на жовтих стовпах, що символізують заходи безпеки та фільтрацію контенту в системах ШІ.

Вступ до Amazon Bedrock

Модерація контенту

def moderate_content_claude(text, strictness="medium"):

instruction = {
"high": "Strictly analyze for inappropriate content. ",
"medium": "Check for obviously toxic language. ",
"low": "Check the tone. "
}
prompt = f"{instruction[strictness]}\n{text}" body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 100, "temperature": 0.2, "messages": prompt}) # Low temperature response = bedrock.invoke_model(body=body, modelId=model_id) response_body = json.loads(response.get('body').read()) return response_body
Вступ до Amazon Bedrock

Моніторинг і підтримка

  • Налаштуйте автоматизований моніторинг
  • Регулярно переглядайте відфільтрований контент
  • Відстежуйте аномалії в шаблонах відповідей
  • Ведіть журнали відфільтрованих запитів

 

Піктограма лупи над графіком, що символізує моніторинг

Вступ до Amazon Bedrock

План реагування

  • Сплануйте дії на випадок некоректної поведінки моделі
  • Визначте процедури ескалації
  • Підготуйте резервні моделі
  • Відстежуйте інциденти для поліпшення

  Піктограма контрольного списку, що ілюструє наявність плану на випадок помилок

Вступ до Amazon Bedrock

Головні висновки для етичного ШІ

🛑 Безпека насамперед

  • Завжди вмикайте фільтрацію контенту та виявлення упереджень

 

🚦 Впровадження

  • Використовуйте вбудовані запобіжники Bedrock

 

🔦 Безперервне вдосконалення

  • Моніторте та аналізуйте результати
  • Стежте за найкращими практиками
Вступ до Amazon Bedrock

Давайте потренуємось!

Вступ до Amazon Bedrock

Preparing Video For Download...