Mitigación de los riesgos de la IA

Introducción a la IA para el trabajo

James Chapman

AI Curriculum Manager, DataCamp

Mitigación de la fabricación de conocimiento

Confía, pero verifica mentalidad

  • Comprueba siempre la información crítica
    • 📈 Números y datos
    • 📖 Citas y referencias
    • 🏛 Hechos históricos y fechas
    • 💻 Detalles técnicos

hallucination1.jpg

Introducción a la IA para el trabajo

Por qué la IA exagera sus capacidades

next_word_prediction.png

  • Los modelos de IA producen las palabras siguientes más probables
  • En sus datos de entrenamiento, \"No lo sé\" es estadísticamente raro
1 https://openai.com/index/why-language-models-hallucinate/
Introducción a la IA para el trabajo

Entrena a la IA para admitir la incertidumbre

 

🤝 Permiso para abstenerse: \"Si no estás seguro, di 'No lo sé' en lugar de adivinar.\"

🎯 Calibración: \"Marca cada afirmación como: segura / incierta / inferida.\"

📚 Cita o etiqueta: \"Para cada afirmación factual, proporciona una fuente o etiquétala como sin fuente.\"

 

🧹 Pasa de autoevaluación: \"Enumera cualquier cosa que pueda estar mal o que hayas asumido.\"

🧭 Delimita el alcance: \"Limita tu respuesta a lo que se indica directamente en la entrada. No extrapoles.\"

Introducción a la IA para el trabajo

Mitigar la ignorancia de la recencia

  • Comprueba siempre la fecha de corte del conocimiento

  • Verifica cualquier cosa que haya ocurrido después

    • 💰 Precios
    • 🏛 Regulaciones
    • 👷 Cambios de personal
    • 📰 Noticias

  • 🌐 Usa la navegación web

recency.png

Introducción a la IA para el trabajo

Mitigación de resultados sesgados

  • Revisar los resultados críticamente

    • 🤝 Materiales de contratación
    • ✨ Contenido de marketing
    • 👉 Toma de decisiones

  • ❗ Herramientas de detección de sesgos

biased.png

Introducción a la IA para el trabajo

Mitigación de respuestas aduladoras

  • 🧭 Guía a la IA hacia la objetividad y el análisis crítico
  • 🤔 Mantén el escepticismo ante las respuestas de la IA
  • 💬 Pide explícitamente comentarios críticos
    • ¿Cuáles son los posibles problemas de este enfoque?
    • ¿Qué perspectivas alternativas hay sobre este tema?

sycophancy.png

Introducción a la IA para el trabajo

Mitigación de la privacidad y la exposición de datos

 

  • Nunca compartas:{{1}} 🔑 Contraseñas o credenciales{{2}} 🔍 Datos personales de clientes (p. ej., PII){{3}} 📣 Información propietaria de la empresa{{4}} 📜 Estrategias o planes confidenciales
  • Regla general: si no lo publicarías en público, no lo pegues en una herramienta de IA estándar

privacy.png

Introducción a la IA para el trabajo

Tu lista de verificación de seguridad de IA

checklist1.jpg

Introducción a la IA para el trabajo

Tu lista de verificación de seguridad de IA

checklist2.jpg

Introducción a la IA para el trabajo

Tu lista de verificación de seguridad de IA

checklist3.jpg

Introducción a la IA para el trabajo

Tu lista de verificación de seguridad de IA

checklist4.jpg

Introducción a la IA para el trabajo

Tu lista de verificación de seguridad de IA

checklist4_5.jpg

Introducción a la IA para el trabajo

Tu lista de verificación de seguridad de IA

checklist5.jpg

Introducción a la IA para el trabajo

¡Vamos a practicar!

Introducción a la IA para el trabajo

Preparing Video For Download...