通用人工智慧（AGI）

生成式 AI 概念

Daniel Tedesco

Data Lead, Google

重談 AGI

展現類似人類智慧的 AI：

• 知識廣度
• 跨域推理
• 社交能力
• 創造思維
• 其他認知能力（視覺、語言）

巨大優勢

• 生产力
• 研究進展
• 工程解決方案
• 陪伴與智慧

嚴重風險

• 負面經濟衝擊
• 惡意濫用
• 價值對齊問題
• 生存風險災難

安全性辯論

AGI 能賦能

AGI 也可能帶來負面影響

控管 AGI 結果

使 AGI 與人類價值對齊的必要條件：

• 明確規則與期待
• 建設性回饋

$$ $$

1. 強硬限制
2. 對齊策略
3. 政府介入

強硬限制

1. Boxing：限制其連結外界
2. Interruptibility：加入停止或關機開關

對齊策略

• 迭代式開發
• 憲法式 AI
• 多方利害關係者參與

¹ Dave Gray

政府介入

 

• 有益的規範
  • 安全規範
  • 測試與監督規則
  • 透明度標準
• 國際合作

各家 AI 公司 CEO 與英國首相 Rishi Sunak 於 2023 年會面—

¹ UK Prime Minister

一起來練習吧！

生成式 AI 概念