Consideraciones éticas y barandillas

Introducción a Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Por qué importa la IA ética

  • Los modelos de IA pueden perpetuar sesgos y generar contenido dañino

Icono de dos mujeres en rosa que representa el sesgo de género

Introducción a Amazon Bedrock

Por qué importa la IA ética

  • Los modelos de IA pueden perpetuar sesgos y generar contenido dañino

  • Riesgos de privacidad al tratar datos sensibles

Iconos que representan sesgo de género y privacidad

Introducción a Amazon Bedrock

Por qué importa la IA ética

  • Los modelos de IA pueden perpetuar sesgos y generar contenido dañino

  • Riesgos de privacidad al tratar datos sensibles

  • Requisitos legales y normativos

Iconos que representan sesgo de género, privacidad y cumplimiento legal

Introducción a Amazon Bedrock

Por qué importa la IA ética

  • Los modelos de IA pueden perpetuar sesgos y generar contenido dañino

  • Riesgos de privacidad al tratar datos sensibles

  • Requisitos legales y normativos

  • Posible uso indebido para difundir desinformación

Iconos que representan sesgo de género, privacidad, cumplimiento legal y desinformación

Introducción a Amazon Bedrock

Por qué importa la IA ética

  • Los modelos de IA pueden perpetuar sesgos y generar contenido dañino

  • Riesgos de privacidad al tratar datos sensibles

  • Requisitos legales y normativos

  • Posible uso indebido para difundir desinformación

  • Reputación y confianza de los grupos de interés

Iconos que representan sesgo de género, privacidad, cumplimiento legal, desinformación y confianza

Introducción a Amazon Bedrock

Proteger modelos con barandillas

  • Barandillas: medidas de protección
    • Filtro de contenido
    • Detección de sesgos
    • Políticas de uso estrictas
  • Empieza siempre con el nivel más restrictivo
  • Nivel por defecto de filtrado de contenido dañino

 

Ilustración simple de barandillas de seguridad con dos barreras grises y postes amarillos, que representan medidas de seguridad y filtrado de contenido en sistemas de IA.

Introducción a Amazon Bedrock

Moderación de contenido

def moderate_content_claude(text, strictness="medium"):

    instruction = {

        "high": "Strictly analyze for inappropriate content. ",

        "medium": "Check for obviously toxic language. ",

        "low": "Check the tone. "

    }

    prompt = f"{instruction[strictness]}\n{text}"
    body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 100, 
                     "temperature": 0.2, "messages": prompt}) # Low temperature 
    response = bedrock.invoke_model(body=body, modelId=model_id)
    response_body = json.loads(response.get('body').read())
    return response_body
Introducción a Amazon Bedrock

Monitorización y mantenimiento

  • Configura monitorización automática
  • Revisa el contenido filtrado con regularidad
  • Detecta anomalías en los patrones de respuesta
  • Mantén registros de las peticiones filtradas

 

Icono de una lupa sobre una gráfica para representar la monitorización

Introducción a Amazon Bedrock

Plan de respuesta

  • Planifica el mal comportamiento del modelo
  • Define procedimientos de escalado
  • Ten modelos de respaldo configurados
  • Incidentes registrados para mejorar

  Icono de una lista de verificación, que ilustra tener un plan cuando ocurren errores

Introducción a Amazon Bedrock

Puntos clave para una IA ética

🛑 Seguridad primero

  • Activa siempre el filtrado de contenido y la detección de sesgos

 

🚦 Implementación

  • Usa las protecciones integradas de Bedrock

 

🔦 Mejora continua

  • Monitoriza y analiza los resultados
  • Mantente al día con las mejores prácticas
Introducción a Amazon Bedrock

¡Vamos a practicar!

Introducción a Amazon Bedrock

Preparing Video For Download...