Kwestie etyczne i mechanizmy ochronne

Wprowadzenie do Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Dlaczego etyka AI ma znaczenie

  • Modele AI mogą utrwalać uprzedzenia i generować szkodliwe treści

Ikona dwóch kobiet w różowym reprezentująca stronniczość płciową

Wprowadzenie do Amazon Bedrock

Dlaczego etyka AI ma znaczenie

  • Modele AI mogą utrwalać uprzedzenia i generować szkodliwe treści

  • Obawy dotyczące prywatności przy przetwarzaniu danych wrażliwych

Ikony reprezentujące stronniczość płciową i prywatność

Wprowadzenie do Amazon Bedrock

Dlaczego etyka AI ma znaczenie

  • Modele AI mogą utrwalać uprzedzenia i generować szkodliwe treści

  • Obawy dotyczące prywatności przy przetwarzaniu danych wrażliwych

  • Wymogi prawne i regulacyjne

Ikony reprezentujące stronniczość płciową, prywatność i zgodność z przepisami

Wprowadzenie do Amazon Bedrock

Dlaczego etyka AI ma znaczenie

  • Modele AI mogą utrwalać uprzedzenia i generować szkodliwe treści

  • Obawy dotyczące prywatności przy przetwarzaniu danych wrażliwych

  • Wymogi prawne i regulacyjne

  • Ryzyko wykorzystania do szerzenia dezinformacji

Ikony reprezentujące stronniczość płciową, prywatność, zgodność z przepisami i dezinformację

Wprowadzenie do Amazon Bedrock

Dlaczego etyka AI ma znaczenie

  • Modele AI mogą utrwalać uprzedzenia i generować szkodliwe treści

  • Obawy dotyczące prywatności przy przetwarzaniu danych wrażliwych

  • Wymogi prawne i regulacyjne

  • Ryzyko wykorzystania do szerzenia dezinformacji

  • Reputacja firmy i zaufanie interesariuszy

Ikony reprezentujące stronniczość płciową, prywatność, zgodność z przepisami, dezinformację i zaufanie

Wprowadzenie do Amazon Bedrock

Ochrona modeli za pomocą mechanizmów ochronnych

  • Mechanizmy ochronne: środki zabezpieczające
    • Filtrowanie treści
    • Wykrywanie uprzedzeń
    • Ścisłe polityki użytkowania
  • Zawsze zacznij od najbardziej restrykcyjnego poziomu
  • Domyślny poziom filtrowania szkodliwych treści

 

Prosta ilustracja mechanizmów ochronnych przedstawionych jako dwie poziome szare bariery na żółtych słupkach, symbolizujące środki bezpieczeństwa i filtrowanie treści w systemach AI.

Wprowadzenie do Amazon Bedrock

Moderowanie treści

def moderate_content_claude(text, strictness="medium"):

instruction = {
"high": "Strictly analyze for inappropriate content. ",
"medium": "Check for obviously toxic language. ",
"low": "Check the tone. "
}
prompt = f"{instruction[strictness]}\n{text}" body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 100, "temperature": 0.2, "messages": prompt}) # Low temperature response = bedrock.invoke_model(body=body, modelId=model_id) response_body = json.loads(response.get('body').read()) return response_body
Wprowadzenie do Amazon Bedrock

Monitorowanie i utrzymanie

  • Skonfiguruj automatyczne monitorowanie
  • Regularnie przeglądaj filtrowane treści
  • Śledź wzorce odpowiedzi pod kątem anomalii
  • Prowadź dzienniki filtrowanych żądań

 

Ikona lupy nad wykresem symbolizująca monitorowanie

Wprowadzenie do Amazon Bedrock

Plan reakcji

  • Przygotuj się na nieprawidłowe działanie modelu
  • Zdefiniuj procedury eskalacji
  • Skonfiguruj modele zapasowe
  • Śledź incydenty w celu doskonalenia

  Ikona listy kontrolnej ilustrująca posiadanie planu na wypadek błędów

Wprowadzenie do Amazon Bedrock

Kluczowe wnioski dotyczące etyki AI

🛑 Bezpieczeństwo przede wszystkim

  • Zawsze włączaj filtrowanie treści i wykrywanie uprzedzeń

 

🚦 Wdrożenie

  • Korzystaj z wbudowanych zabezpieczeń Bedrock

 

🔦 Ciągłe doskonalenie

  • Monitoruj i analizuj wyniki
  • Śledź najlepsze praktyki
Wprowadzenie do Amazon Bedrock

Czas na ćwiczenia!

Wprowadzenie do Amazon Bedrock

Preparing Video For Download...