Enjeux éthiques et garde‑fous

Introduction à Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Pourquoi l’IA éthique est essentielle

  • Les modèles d’IA peuvent perpétuer des biais et générer du contenu nuisible

Icône de deux femmes en rose représentant les biais de genre

Introduction à Amazon Bedrock

Pourquoi l’IA éthique est essentielle

  • Les modèles d’IA peuvent perpétuer des biais et générer du contenu nuisible

  • Problèmes de confidentialité lors du traitement de données sensibles

Icônes représentant les biais de genre et la confidentialité

Introduction à Amazon Bedrock

Pourquoi l’IA éthique est essentielle

  • Les modèles d’IA peuvent perpétuer des biais et générer du contenu nuisible

  • Problèmes de confidentialité lors du traitement de données sensibles

  • Exigences de conformité légale/réglementaire

Icônes représentant les biais de genre, la confidentialité et la conformité légale

Introduction à Amazon Bedrock

Pourquoi l’IA éthique est essentielle

  • Les modèles d’IA peuvent perpétuer des biais et générer du contenu nuisible

  • Problèmes de confidentialité lors du traitement de données sensibles

  • Exigences de conformité légale/réglementaire

  • Risque d’usage abusif pour diffuser de la désinformation

Icônes représentant les biais de genre, la confidentialité, la conformité légale et la désinformation

Introduction à Amazon Bedrock

Pourquoi l’IA éthique est essentielle

  • Les modèles d’IA peuvent perpétuer des biais et générer du contenu nuisible

  • Problèmes de confidentialité lors du traitement de données sensibles

  • Exigences de conformité légale/réglementaire

  • Risque d’usage abusif pour diffuser de la désinformation

  • Réputation de l’entreprise et confiance des parties prenantes

Icônes représentant les biais de genre, la confidentialité, la conformité légale, la désinformation et la confiance

Introduction à Amazon Bedrock

Protéger les modèles avec des garde‑fous

  • Garde‑fous : mesures de protection
    • Filtrage de contenu
    • Détection des biais
    • Politiques d’usage strictes
  • Commencer par le niveau le plus restrictif
  • Niveau par défaut de filtrage du contenu nuisible

 

Une illustration simple de garde‑fous de sécurité, deux barrières grises horizontales soutenues par des poteaux jaunes, représentant des mesures de sécurité et le filtrage de contenu dans les systèmes d’IA.

Introduction à Amazon Bedrock

Modération de contenu

def moderate_content_claude(text, strictness="medium"):

    instruction = {

        "high": "Strictly analyze for inappropriate content. ",

        "medium": "Check for obviously toxic language. ",

        "low": "Check the tone. "

    }

    prompt = f"{instruction[strictness]}\n{text}"
    body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 100, 
                     "temperature": 0.2, "messages": prompt}) # Low temperature 
    response = bedrock.invoke_model(body=body, modelId=model_id)
    response_body = json.loads(response.get('body').read())
    return response_body
Introduction à Amazon Bedrock

Surveillance et maintenance

  • Mettre en place une surveillance automatisée
  • Réviser régulièrement le contenu filtré
  • Suivre les schémas de réponse pour détecter des anomalies
  • Tenir des journaux des requêtes filtrées

 

Icône d’une loupe sur un graphique pour représenter la surveillance

Introduction à Amazon Bedrock

Plan de réponse

  • Prévoir les comportements indésirables du modèle
  • Définir des procédures d’escalade
  • Avoir des modèles de secours configurés
  • Suivre les incidents pour s’améliorer

  Icône d’une liste de contrôle, illustrant la nécessité d’un plan en cas d’erreurs

Introduction à Amazon Bedrock

Points clés pour une IA éthique

🛑 Sécurité d’abord

  • Activer systématiquement le filtrage et la détection des biais

 

🚦 Mise en œuvre

  • Utiliser les protections intégrées de Bedrock

 

🔦 Amélioration continue

  • Surveiller et analyser les résultats
  • Rester à jour sur les bonnes pratiques
Introduction à Amazon Bedrock

Passons à la pratique !

Introduction à Amazon Bedrock

Preparing Video For Download...