Considerações éticas e guardrails

Introdução ao Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Por que IA ética importa

  • Modelos de IA podem perpetuar vieses e gerar conteúdo nocivo

Ícone de duas mulheres em rosa representando viés de gênero

Introdução ao Amazon Bedrock

Por que IA ética importa

  • Modelos de IA podem perpetuar vieses e gerar conteúdo nocivo

  • Riscos à privacidade ao lidar com dados sensíveis

Ícones representando viés de gênero e privacidade

Introdução ao Amazon Bedrock

Por que IA ética importa

  • Modelos de IA podem perpetuar vieses e gerar conteúdo nocivo

  • Riscos à privacidade ao lidar com dados sensíveis

  • Exigências legais e regulatórias

Ícones representando viés de gênero, privacidade e conformidade legal

Introdução ao Amazon Bedrock

Por que IA ética importa

  • Modelos de IA podem perpetuar vieses e gerar conteúdo nocivo

  • Riscos à privacidade ao lidar com dados sensíveis

  • Exigências legais e regulatórias

  • Potencial de uso indevido para desinformação

Ícones representando viés de gênero, privacidade, conformidade legal e desinformação

Introdução ao Amazon Bedrock

Por que IA ética importa

  • Modelos de IA podem perpetuar vieses e gerar conteúdo nocivo

  • Riscos à privacidade ao lidar com dados sensíveis

  • Exigências legais e regulatórias

  • Potencial de uso indevido para desinformação

  • Reputação do negócio e confiança das partes interessadas

Ícones representando viés de gênero, privacidade, conformidade legal, desinformação e confiança

Introdução ao Amazon Bedrock

Protegendo modelos com guardrails

  • Guardrails: medidas de proteção
    • Filtro de conteúdo
    • Detecção de viés
    • Políticas de uso rígidas
  • Sempre começar no nível mais restritivo
  • Triagem padrão para conteúdo nocivo

 

Ilustração simples de guardrails de segurança com duas barreiras cinzas sustentadas por postes amarelos, representando medidas de segurança e filtragem de conteúdo em sistemas de IA.

Introdução ao Amazon Bedrock

Moderação de conteúdo

def moderate_content_claude(text, strictness="medium"):

instruction = {
"high": "Strictly analyze for inappropriate content. ",
"medium": "Check for obviously toxic language. ",
"low": "Check the tone. "
}
prompt = f"{instruction[strictness]}\n{text}" body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 100, "temperature": 0.2, "messages": prompt}) # Low temperature response = bedrock.invoke_model(body=body, modelId=model_id) response_body = json.loads(response.get('body').read()) return response_body
Introdução ao Amazon Bedrock

Monitoramento e manutenção

  • Configure monitoramento automático
  • Revise o conteúdo filtrado com frequência
  • Acompanhe padrões de resposta e anomalias
  • Mantenha logs de solicitações filtradas

 

Ícone de lupa sobre um gráfico representando monitoramento

Introdução ao Amazon Bedrock

Plano de resposta

  • Planeje para mau comportamento do modelo
  • Defina procedimentos de escalonamento
  • Tenha modelos de backup configurados
  • Registre incidentes para melhoria

  Ícone de checklist, ilustrando ter um plano quando ocorrerem erros

Introdução ao Amazon Bedrock

Pontos-chave para IA ética

🛑 Segurança em primeiro lugar

  • Sempre ative filtro de conteúdo e detecção de viés

 

🚦 Implementação

  • Use os recursos de segurança do Bedrock

 

🔦 Melhoria contínua

  • Monitore e analise os resultados
  • Mantenha-se atualizado com as melhores práticas
Introdução ao Amazon Bedrock

Vamos praticar!

Introdução ao Amazon Bedrock

Preparing Video For Download...