倫理的・環境的懸念

大規模言語モデル（LLM）の基本

Vidhi Chugh

AI strategist and ethicist

倫理的懸念

• 透明性リスク

倫理的懸念

• 透明性リスク
• 説明責任リスク -

倫理的懸念

• 透明性リスク

• 説明責任リスク

• 情報の普及によって生じる危険性

透明性リスク

• 出力に至ったプロセスの理解が難しい

• 問題が検知しにくい
  • バイアス
  • エラー
  • 不正利用
• ブラックボックス

• 例: 病気の予後予測の根拠

説明責任リスク

• LLMが起こす行動への責任

• 誰が責任を負うのか
  • 誤った情報や有害なアドバイス
  • モデルの開発者？それを導入した企業？

• ルールのわからないゲーム
  • 透明性なし
  • 説明責任なし

¹ Freepik

情報の普及によって生じる危険性

悪影響をもたらす情報が拡散

• 有害コンテンツの生成
• 誤情報の拡散
• 悪質な利用
• 有害な表現の生成

情報の普及によって生じる危険性

有害コンテンツの生成

• 有害、不快、不適切な内容

• プロンプトまたは偏った学習データが要因

• 例：
  • いじめ vs. 楽しい学校環境
  • 苦痛や悪影響

誤情報の拡散

• さまざまなトピックの文章を生成

• ただし、検証されていない

• 例：
  • 「ダイエットに効果的な食事法は？」
  • 根拠のないアイディア

情報の普及によって生じる危険性

悪用

• LLMを悪用する人

• 人をだますためのコンテンツ生成

• 例：
  • フェイクニュース
  • 世論を操作したり、不安に陥らせる

有害性

• 不適切なコンテンツ

• 悪意あるプロンプトでの学習・操作

• 例：
  • 侮辱的な発言
  • ステレオタイプ

環境への懸念

• LLMの環境負荷

• 学習するための十分なエネルギー資源

• 二酸化炭素排出による影響

¹ Freepik

冷却にも電気が必要！

• 大量の熱が発生し、冷却が必要

• 数千台ものPCが過熱するイメージ
  • 複雑な冷却システムが必要
  • 環境負荷をさらに高める

• コストとメリットのバランス
  • 再生可能エネルギーを使用する
  • 省エネ技術

¹ Freepik

練習しましょう！

大規模言語モデル（LLM）の基本