Inteligencia artificial general (AGI)

Conceptos de la IA generativa

Daniel Tedesco

Data Lead, Google

Revisión de la AGI

Una IA que muestra inteligencia como lo haría un humano:

  • Ámbito de conocimiento
  • Razonamiento entre dominios
  • Habilidades sociales
  • Pensamiento creativo
  • Otras competencias cognitivas (visión, lenguaje)
Conceptos de la IA generativa

Inmensas ventajas

  • Productividad
  • Avances en la investigación
  • Soluciones de ingeniería
  • Compañerismo y sabiduría

Imagen de una hermosa ciudad del futuro

Conceptos de la IA generativa

Desventajas graves

  • Perturbación económica negativa
  • Uso malintencionado
  • Problemas de alineación de valores
  • Catástrofe existencial

Robot de aspecto peligroso

Conceptos de la IA generativa

El debate sobre la seguridad

AGI puede empoderar

Imagen de una moderna central nuclear en Kalinin, Rusia.

La AGI puede tener consecuencias negativas.

Imagen de una bomba nuclear sin detonar en un museo.

Conceptos de la IA generativa

Control de los resultados de AGI

Requisitos para alinear la AGI y los valores humanos:

  • Reglas y expectativas claras
  • Comentarios constructivos

$$ $$

  1. Restricciones rígidas
  2. Estrategias de alineación
  3. Intervención gubernamental
Conceptos de la IA generativa

Restricciones rígidas

  1. El enjaulamiento limita el acceso al mundo exterior
  2. La interrumpibilidad añade un interruptor de parada o apagado

Imagen de un gran botón rojo con la indicación «Apagado de emergencia» junto a él.

Conceptos de la IA generativa

Estrategias de alineación

  • Desarrollo iterativo
  • IA constitucional
  • Participación de múltiples partes interesadas

Una representación visual del desarrollo iterativo, en el que cada paso se mueve hacia afuera en espiral

1 Dave Gray
Conceptos de la IA generativa

Intervención gubernamental

 

  • Regulaciones beneficiosas
    • Normativas de seguridad
    • Normas para la realización de pruebas y la supervisión
    • Normas de transparencia
  • Colaboración internacional

Directores ejecutivos de varias empresas de IA se reúnen con el primer ministro británico, Rishi Sunak, en 2023-

Los directores ejecutivos de varias empresas de IA se reúnen con el primer ministro británico, Rishi Sunak.

1 Primer ministro de Reino Unido
Conceptos de la IA generativa

¡Vamos a practicar!

Conceptos de la IA generativa

Preparing Video For Download...