Límites y restricciones de la IA

Introducción a la IA para el trabajo

James Chapman

AI Curriculum Manager, DataCamp

Riesgo n.º 1: inventar conocimiento

 

  • O alucinación: información falsa presentada incorrectamente como correcta por la IA.
  • Ejemplos comunes:
    • estadísticas incorrectas
    • citas falsas
    • alucinación de sucesos

hallucination1.jpg

Introducción a la IA para el trabajo

Riesgo n.º 1: inventar conocimiento

 

  • O alucinación: información falsa presentada incorrectamente como correcta por la IA.
  • Ejemplos comunes:
    • estadísticas incorrectas
    • citas falsas
    • alucinación de sucesos

hallucination2.jpg

Introducción a la IA para el trabajo

Riesgo n.º 1: inventar conocimiento

hallucination3.jpg

Introducción a la IA para el trabajo

Riesgo n.º 2: ignorar datos recientes

 

  • Fecha límite de conocimiento → fecha límite del conocimiento del modelo sobre los acontecimientos.

  • Ejemplos:

    • Normativas, precios, ubicaciones y sintaxis de codificación obsoletos.

  • Confirma los datos que dependan del tiempo con fuentes actuales.

  • Muchas herramientas de IA también admiten búsquedas en Internet.

recency.png

Introducción a la IA para el trabajo

Riesgo n.º 3: resultados sesgados

biased.png

 

  • Refleja y amplifica los prejuicios sociales a partir de los datos de entrenamiento.
  • Resultado → contenido estereotipado o discriminatorio
  • ¡Revisa cuidadosamente el contenido generado por IA!
Introducción a la IA para el trabajo

Riesgo n.º 4: resultados aduladores

 

  • Adulación → te dice lo que cree que quieres oír.

    • Validar perspectivas, respaldar decisiones y afirmar el pensamiento.

  • Problema cuando necesitas una perspectiva crítica

sycophancy.png

Introducción a la IA para el trabajo

Riesgo n.º 4: resultados aduladores

 

  • Adulación → te dice lo que cree que quieres oír.

    • Validar perspectivas, respaldar decisiones y afirmar el pensamiento.

  • Problema cuando necesitas una perspectiva crítica

  • Subproducto de cómo se entrenan los LLM a partir de las valoraciones humanas de las respuestas.

 

sycophany_research.png

1 https://arxiv.org/abs/2510.01395
Introducción a la IA para el trabajo

Riesgo n.º 5: privacidad y exposición de datos

privacy.png

 

  • La información compartida con herramientas de IA puede no permanecer privada.
  • Subir hojas de cálculo, documentos o datos de clientes puede ser arriesgado.
  • Los datos pueden almacenarse en servidores externos, utilizarse para el entrenamiento de modelos o ser objeto de búsqueda.
Introducción a la IA para el trabajo

Riesgo n.º 5: privacidad y exposición de datos

crying.png

 

Riesgos

  • Violar las leyes de privacidad (por ejemplo, el RGPD).
  • Perder una ventaja competitiva.
  • Dañar la confianza de los clientes.

 

  • Comprueba siempre la política de datos de la herramienta de IA.
  • En caso de duda: consulta a un experto en TI o seguridad de la información.
Introducción a la IA para el trabajo

Del riesgo a la responsabilidad

risks_summary_v2.png

 

car.png

Introducción a la IA para el trabajo

¡Practiquemos!

Introducción a la IA para el trabajo

Preparing Video For Download...