モデルの学習

生成 AI の基本概念

Daniel Tedesco

Data Lead, Google

交通手段を選ぶ

飛行機と車の画像

  1. ハードウェア
  2. 時間
    • データセットの規模
    • モデルの複雑さ
    • 学習回数
  3. 費用
生成 AI の基本概念

高度な手法へ進む

  • 基盤生成 AI モデルは出発点
  • 高度な手法で特定の文脈に特化

高度な手法：

  1. 転移学習とファインチューニング
  2. RLHF
  3. カスタム埋め込み

卒業式の学生たちの写真

生成 AI の基本概念

猫からライオンへ

  • 転移学習は、あるタスクで学習した知識を別なタスクで再利用
  • ファインチューニングは転移学習の一種で小規模データセット向け

ライオンの画像から学習するモデル。「毛でおおわれ、4 本足... 「わかりました！」と言ってから、ライオンの画像を生成する

1 Creative Commons Attribution-Share Alike 4.0, Bing image generator
生成 AI の基本概念

あなたのフィードバックはどこへ？

Google Bardのチャットインターフェースの画像。「高評価」と「低評価」のフィードバックオプションを囲んで強調表示。

1 Google Bard、2023
生成 AI の基本概念

より良い応答を高評価

いくつかのテキスト返信が高評価または低評価され、ロボットに渡されている。ロボットは「よし、これで人間がどんな回答を好むかが分かった」と言っている

1 Google Bard、2023
生成 AI の基本概念

指紋としての埋め込み

  • 指紋で見分けるのと同様
  • データ固有の特徴を表現
  • 意味、文脈、関係性を簡潔に把握

幾つも並ぶ指紋の図

1 Wikimedia Commons
生成 AI の基本概念

ダニエルを埋め込む

生成AI に与えたダニエル・テデスコの異なる写真

1 Daniel Tedesco、2023
生成 AI の基本概念

埋め込みの結果

ダニエル・テデスコの上半身の写真をさまざまなスタイルで生成するモデル

1 Daniel Tedesco portraits from vana.com
生成 AI の基本概念

練習しましょう！

生成 AI の基本概念

Preparing Video For Download...