学習手法

大規模言語モデル（LLM）の基本

Vidhi Chugh

AI strategist and ethicist

このステップの位置

データの制約

• ファインチューニング：特定のタスク向けに事前学習済みモデルをさらに訓練する

• 特定のタスクのラベル付きデータがほとんどない場合は？

• Nショット学習：ゼロショット、フューショット、マルチショット

転移学習

• 1つのタスクから学び、関連タスクへ転移する
• ピアノからギターへの知識の転移
  • 楽譜の理解
  • リズムの理解
  • 音楽の概念が身に着く

• Nショット学習
  • ゼロショット - 特定タスクのデータなし
  • フューショット - 少量の特定タスクのデータ
  • マルチショット - 比較的多い学習データ

ゼロショット学習

• 明確なトレーニングなし
• 言語理解と文脈を使用
• 事前の例なしに一般化する

¹ Freepik

フューショット学習

• 少数の例で新しいタスクを学習する

• ワンショット学習：1つの例からのファインチューニング

• 既存の知識で新しい質問に回答する

マルチショット学習

• フューショットよりも多くの例が必要

• 過去のタスクと新しい例

• たとえば、ゴールデンレトリバーで学習したモデル

¹ Freepik

マルチショット学習

• モデル出力： ラブラドールレトリバー

• データ収集とラベル付けの時間短縮

• 高い精度を維持

¹ Freepik

これまでの構成要素

• データ前処理ワークフロー

• ファインチューニング

• Nショット学習手法

• 次のステップ：事前学習

練習しましょう！

大規模言語モデル（LLM）の基本