通用人工智能（AGI）

生成式 AI 概念

Daniel Tedesco

Data Lead, Google

重温 AGI

一种像人类一样展现智能的 AI：

• 知识广度
• 跨领域推理
• 社交能力
• 创造性思维
• 其他认知能力（视觉、语言）

巨大优势

• 生产力
• 科研进展
• 工程解决方案
• 陪伴与智慧

严重劣势

• 负面经济冲击
• 恶意使用
• 价值对齐问题
• 生存性灾难

安全性争议

AGI 可赋能

AGI 可能带来负面影响

控制 AGI 结果

将 AGI 与人类价值对齐的要求：

• 明确的规则与期望
• 建设性反馈

$$ $$

1. 硬性约束
2. 对齐策略
3. 政府干预

硬性约束

1. 封箱（Boxing） 限制外界访问
2. 可中断性 增加停止/关机开关

对齐策略

• 迭代式开发
• 宪法式 AI
• 多方参与

¹ Dave Gray

政府干预

 

• 有益的监管
  • 安全规范
  • 测试与监督规则
  • 透明度标准
• 国际协作

多家 AI 公司 CEO 与英国首相里希·苏纳克于 2023 年会面——

¹ 英国首相

让我们练习！

生成式 AI 概念