การประเมินและลดอคติทางสังคม

แนวคิด Generative AI

Daniel Tedesco

Data Lead, Google

อคติทางสังคมคืออะไร?

$$ $$

ความไม่เป็นธรรมในเชิงระบบของ Generative AI

$$ $$

การสัมภาษณ์งาน

ตราชูที่ไม่สมดุล

ข้อมูลที่เบี่ยงเบนหรือไม่ครอบคลุมในชุดข้อมูลฝึก

กรวยฝึกสองอัน อันแรกแสดงสี่เหลี่ยมสีม่วงเข้าสู่การฝึกและสร้างเฉพาะสี่เหลี่ยมสีม่วง อันที่สองแสดงรูปทรงหลากสีเข้าสู่การฝึกและสร้างรูปทรงหลากหลาย

การมุ่งเป้าหมายที่นำไปสู่ผลลัพธ์ที่มีอคติ

หุ่นยนต์ที่มีลักษณะสมจริงกำลังกล่าวสุนทรพจน์ที่ UN

การนำ AI ไปใช้ในทางที่ผิดหรือมีเจตนาร้าย

แล็ปท็อปแสดงวิดีโอที่มีป้าย "FAKE" ขนาดใหญ่

การวิเคราะห์การนำเสนอ เปรียบเทียบวิธีที่โมเดลอ้างถึงกลุ่มต่าง ๆ
เมตริกความเป็นธรรม ประเมินโมเดลในด้านความเท่าเทียมของการปฏิบัติ โอกาส และความแม่นยำในแต่ละกลุ่ม
การตรวจสอบโดยมนุษย์ ให้ผู้คนจริง ๆ ตรวจสอบผลลัพธ์ของโมเดลเพื่อหาอคติ

รูปทรงหลากสีและตัวอย่างที่เป็นตัวแทนถูกคัดเลือกออกมา

แนวคิด Generative AI