Verificabilidad y confianza

IA para analistas de datos

Andy Cotgreave

Author and Speaker, Former Technical Evangelist at Tableau

Por poco...

Por poco...

La IA proyecta confianza

 

• Los errores se ven tan pulidos como los aciertos
• No hay señal visual de "podría estar mal"
• Si no verificas, _tú_ envías el error

Verificar no es hacerlo dos veces

 

• Instinto equivocado: rehacer el trabajo en una herramienta BI
• Trata la salida de IA como la de un analista junior rápido: potente, no fiable por defecto
• Tu trabajo: ponerla a prueba, no rehacerla

Flujo de verificación

Flujo de verificación

 

1. Elige un dato concreto
2. Filtra los datos brutos manualmente hasta ese dato
3. Verifica el cálculo para ese punto

Flujo de verificación

 

1. Copia el código o salida de la IA
2. Pega en otro asistente o conversación
3. Pídele que encuentre fallos lógicos

Flujo de verificación

 

1. Haz una prueba de sentido común de negocio
2. Pregunta: ¿encaja este insight con la experiencia?

Flujo de verificación

 

1. Pídele a la IA que pruebe su propio código con casos límite (valores nulos, duplicados, ceros)

Ajusta el rigor al riesgo

• Trabajo exploratorio o ad hoc → aplicación más ligera
• Cuadro de mando en producción, presentación al consejo, etc. → aplicación más rigurosa

El humano en el bucle es el trabajo

Adulación de la IA

 

• La IA tiende a darte la razón
• Si sugieres, presionas o insinúas una hipótesis → la IA sigue la pista
• Defensa en el prompt: mantén lenguaje neutral
• Defensa en verificación: sé más duro con hallazgos que confirmen lo que querías

¡Vamos a practicar!

IA para analistas de datos