Considerații etice și măsuri de protecție

Introducere în Amazon Bedrock

Nikhil Rangarajan

Data Scientist

De ce contează etica în AI

  • Modelele AI pot perpetua prejudecăți și genera conținut dăunător

Pictogramă cu două femei în roz reprezentând prejudecăți de gen

Introducere în Amazon Bedrock

De ce contează etica în AI

  • Modelele AI pot perpetua prejudecăți și genera conținut dăunător

  • Preocupări legate de confidențialitate în gestionarea datelor sensibile

Pictograme reprezentând prejudecăți de gen și confidențialitate

Introducere în Amazon Bedrock

De ce contează etica în AI

  • Modelele AI pot perpetua prejudecăți și genera conținut dăunător

  • Preocupări legate de confidențialitate în gestionarea datelor sensibile

  • Cerințe legale și de conformitate reglementară

Pictograme reprezentând prejudecăți de gen, confidențialitate și conformitate legală

Introducere în Amazon Bedrock

De ce contează etica în AI

  • Modelele AI pot perpetua prejudecăți și genera conținut dăunător

  • Preocupări legate de confidențialitate în gestionarea datelor sensibile

  • Cerințe legale și de conformitate reglementară

  • Risc de utilizare abuzivă pentru răspândirea dezinformării

Pictograme reprezentând prejudecăți de gen, confidențialitate, conformitate legală și dezinformare

Introducere în Amazon Bedrock

De ce contează etica în AI

  • Modelele AI pot perpetua prejudecăți și genera conținut dăunător

  • Preocupări legate de confidențialitate în gestionarea datelor sensibile

  • Cerințe legale și de conformitate reglementară

  • Risc de utilizare abuzivă pentru răspândirea dezinformării

  • Reputația organizației și încrederea părților interesate

Pictograme reprezentând prejudecăți de gen, confidențialitate, conformitate legală, dezinformare și încredere

Introducere în Amazon Bedrock

Protejarea modelelor cu măsuri de protecție

  • Măsuri de protecție (guardrails)
    • Filtrarea conținutului
    • Detectarea prejudecăților
    • Politici stricte de utilizare
  • Începeți întotdeauna cu nivelul cel mai restrictiv
  • Nivel implicit de verificare a conținutului dăunător

 

Ilustrație simplă a unor bariere de siguranță reprezentate ca două bariere orizontale gri susținute de stâlpi galbeni, simbolizând măsuri de protecție și filtrarea conținutului în sistemele AI.

Introducere în Amazon Bedrock

Moderarea conținutului

def moderate_content_claude(text, strictness="medium"):

instruction = {
"high": "Strictly analyze for inappropriate content. ",
"medium": "Check for obviously toxic language. ",
"low": "Check the tone. "
}
prompt = f"{instruction[strictness]}\n{text}" body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 100, "temperature": 0.2, "messages": prompt}) # Low temperature response = bedrock.invoke_model(body=body, modelId=model_id) response_body = json.loads(response.get('body').read()) return response_body
Introducere în Amazon Bedrock

Monitorizare și întreținere

  • Configurați monitorizarea automată
  • Revizuiți periodic conținutul filtrat
  • Urmăriți tiparele de răspuns pentru anomalii
  • Păstrați jurnale ale solicitărilor filtrate

 

Pictogramă cu o lupă peste un grafic, reprezentând monitorizarea

Introducere în Amazon Bedrock

Plan de răspuns

  • Planificați răspunsul la comportamente incorecte ale modelului
  • Definiți proceduri de escaladare
  • Configurați modele de rezervă
  • Urmăriți incidentele pentru îmbunătățire

  Pictogramă cu o listă de verificare, ilustrând importanța unui plan de răspuns la erori

Introducere în Amazon Bedrock

Concluzii cheie pentru AI etic

🛑 Siguranța pe primul loc

  • Activați întotdeauna filtrarea conținutului și detectarea prejudecăților

 

🚦 Implementare

  • Utilizați măsurile de protecție integrate în Bedrock

 

🔦 Îmbunătățire continuă

  • Monitorizați și analizați rezultatele
  • Rămâneți la curent cu bunele practici
Introducere în Amazon Bedrock

Să exersăm!

Introducere în Amazon Bedrock

Preparing Video For Download...