ChatGPTの限界

ChatGPTを理解する

James Chapman

Curriculum Manager, DataCamp

ChatGPTの内部構造

A diagram showing how prompts and responses relate to the large language model.

ChatGPTを理解する

LLMの仕組み

A large building block wall.

ChatGPTを理解する

LLMの仕組み

A large building block wall and an incomplete wall with a piece being inserted into a gap.

ChatGPTを理解する

LLMの仕組み

A building block wall.

ChatGPTを理解する

LLMの仕組み

The building block wall has been labeled the training data.

ChatGPTを理解する

LLMの仕組み

A network structure has appeared, which represents the algorithms used to identify the language patterns.

ChatGPTを理解する

LLMの仕組み

Gears and lightbulbs, surrounded by a cyclical symbol is shown, which represents the iterative processes needed to fine-tune the model.

ChatGPTを理解する

LLMの仕組み

A manikin building a building block wall to represent what ChatGPT is doing with text.

ChatGPTを理解する

限界 1 - 知識のカットオフ

  • ある時点までのデータで学習:
    • GPT 3.5: 2022年1月
    • GPT 4: 2023年4月
  • この日付以降の出来事は認識できない

A building block wall that stops at a certain date.

ChatGPTを理解する

限界 2 - 学習データのバイアス

  • ChatGPTが学習した大規模テキストデータセットに含まれるもの:

    • 書籍
    • 記事
    • ウェブサイト
  • モデルは学習データからバイアスを得る可能性がある

  • 偏った回答を生成する可能性がある

An icon demonstrating how a model can learn biases from the data it has seen.

ChatGPTを理解する

限界 3 - 文脈の保持

A conversation between the user and ChatGPT where the context is changing over time.

ChatGPTを理解する

限界 3 - 文脈の保持

A conversation between the user and ChatGPT where the context is changing over time.

ChatGPTを理解する

限界 3 - 文脈の保持

  • トピックが変わると文脈を保持しにくい
  • 不正確・的外れな回答に繋がる可能性がある
  • Tip: 会話は1つの話題に絞る

A conversation between the user and ChatGPT where the context is changing over time.

ChatGPTを理解する

限界 4 - ハルシネーション

  • モデルはもっともらしく不正確な情報を提供する
  • モデルの知識・能力以上のことを尋ねるとよく発生する

An example of ChatGPT hallucinating a LinkedIn profile.

1 https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)
ChatGPTを理解する

限界 5 - 法的・倫理的な問題

  • : 既存のアーティストの作風で作曲する
    • この曲の所有権は誰にある?

An icon of a user at their laptop.

ChatGPTを理解する

限界 5 - 法的・倫理的な問題

  • : 既存のアーティストの作風で作曲する
    • この曲の所有権は誰にある?

An icon of a musician singing.

ChatGPTを理解する

限界 5 - 法的・倫理的な問題

  • : 既存のアーティストの作風で作曲する
    • この曲の所有権は誰にある? - 法的なグレーゾーンに陥りやすい
  • 所有権とプライバシー → 第2章

An icon of a technical stakeholder.

ChatGPTを理解する

練習しましょう!

ChatGPTを理解する

Preparing Video For Download...