汎用人工知能（AGI）

生成 AI の基本概念

Daniel Tedesco

Data Lead, Google

AGI について再確認

人間のような知能を示すAI：

  • 広範な知識
  • 領域横断的な推論
  • 社会的スキル
  • 創造的思考
  • その他の認知能力（視覚、言語）
生成 AI の基本概念

莫大な利点

  • 生産性
  • 研究の発展
  • 工学的解決
  • 伴走と知恵

美しい未来都市の画像

生成 AI の基本概念

深刻な欠点

  • 経済的な悪影響
  • 悪用
  • 価値観の不整合
  • 人間の存在に関わる大惨事

危険そうなロボット

生成 AI の基本概念

安全性に関する議論

AGI は力を与える

ロシアのカリーニンにある現代的な原子力発電所の画像

AGI は負の影響も生む

博物館に展示された未爆発の核爆弾の画像

生成 AI の基本概念

AGI の結果を制御

AGI と人間の価値観を整合させるための要件

  • 明確なルールと期待される行動を示す

$$ $$

  1. ハード制約
  2. アライメント戦略
  3. 政府の介入
生成 AI の基本概念

ハード制約

  1. ボクシング：外の世界へのアクセスを制限
  2. 中断可能性： 停止 / オフのスイッチを追加

「緊急電源オフ」の標識が付いた大きな赤いボタンの画像

生成 AI の基本概念

アライメント戦略

  • 反復開発
  • Constitutional AI （憲法 AI）
  • マルチステークホルダーの参画

スパイラル状に外側へ進む各ステップを示す反復開発の図

1 Dave Gray
生成 AI の基本概念

政府介入

  • 有益な規制
    • 安全規則
    • テストと監督のルール
    • 透明性基準
  • 国際的な協働

2023年、リシ・スナク英首相とAI 企業の CEO が会談

AI 企業の CEO と会談するリシ・スナク英首相

1 英国首相
生成 AI の基本概念

練習しましょう！

生成 AI の基本概念

Preparing Video For Download...