社会的バイアス

生成 AI の基本概念

Daniel Tedesco

Data Lead, Google

社会的バイアスとは？

$$ $$

生成 AI における体系的な不平等

  • 深刻な社会的影響
  • 公平性は主観的な側面がある
  • 広く共有される価値観に焦点を当てる

$$ $$

仕事の面接。

生成 AI の基本概念

バイアスが現れる場所

  • 学習データ
  • モデル 自体
  • モデルがどう使われたか

不均衡な天秤

生成 AI の基本概念

データのバイアス

学習データの偏りまたは特定データの不当な不足

2つの学習ファネル。 1 つは、紫の四角形が学習に入力され、紫の四角形だけが生成されることを示しています。 もう一方は、さまざまな色付きの図形が学習に入力され、さまざまな図形が生成される様子を示しています

生成 AI の基本概念

モデルにおけるバイアス

偏った結果を招く目標の追求

国連で演説するロボット政治家

生成 AI の基本概念

使用時のバイアス

AIの誤った方法や悪意ある方法で適用

巨大な「FAKE」ラベルが表示された動画を映しているノートパソコン。

生成 AI の基本概念

データとモデルにおけるバイアスの特定

  • 表現分析は、モデルが異なるグループについてどのように表現するかを比較
  • 公平性指標 は、グループ間での平等な扱い、機会、精度を評価
  • 人間監査では、実際の人がモデルの出力を確認し、バイアスを特定
生成 AI の基本概念

データとモデルにおけるバイアスの軽減

  • データ収集の多様化
  • 特定のデータを優先するよう、モデルを調整
  • 敵対的学習
  • 継続的改善

さまざまな色の図形の集合と、その代表サンプルの選択

生成 AI の基本概念

練習しましょう！

生成 AI の基本概念

Preparing Video For Download...