แอปพลิเคชัน AI เชิงสร้างสรรค์อย่างรับผิดชอบ

แนวคิด Generative AI

Daniel Tedesco

Data Lead, Google

ในคืนก่อนวันเลือกตั้ง

คอลเลกชันพาดหัวข่าวปลอม

แนวคิด Generative AI

ประเภทของการใช้งานในทางที่ผิด

  • Deepfakes
  • แคมเปญข้อมูลบิดเบือน
  • การแฮกด้วย AI

ภาพที่สร้างโดย AI ของสมเด็จพระสันตะปาปาในเสื้อแจ็กเก็ตพองลม

1 Pablo Xavier
แนวคิด Generative AI

การตรวจจับและป้องกัน

หลักการใช้งานสำคัญ

  • Human-in-the-loop
  • การป้องกันอันตราย
  • การตรวจสอบอย่างต่อเนื่อง

 

จุดตรวจจับและป้องกัน

แผนภาพแสดงจุดตรวจสอบในการใช้งาน AI ได้แก่ การเข้าถึง พรอมต์ การตอบสนอง แอปพลิเคชัน และการสื่อสารและข้อเสนอแนะ

แนวคิด Generative AI

การเข้าถึง

AI อาจสนับสนุนกิจกรรมที่ไม่ใช่อาชญากรรมของกลุ่มอาชญากรโดยไม่ได้ตั้งใจ

  • หลีกเลี่ยงการสนับสนุนกลุ่มที่มีเจตนาร้าย
  • Know Your Customer (KYC)
    • ตรวจสอบตัวตนของผู้ใช้

ตัวละครที่ดูน่ากลัวกำลังทำท่าห้ามพูด

แนวคิด Generative AI

พรอมต์และการตอบสนอง

การกลั่นกรองพรอมต์

  • คล้ายกับการดูแลเว็บไซต์หรือกลุ่มแชท
  • พรอมต์แบบ Jailbreaking ยังสามารถหลีกเลี่ยงแนวทางของนักพัฒนาได้

การกลั่นกรองการตอบสนอง

  • ตรวจสอบหรือกรองการตอบสนองก่อนแสดงต่อผู้ใช้
แนวคิด Generative AI

แอปพลิเคชัน

ผู้ไม่หวังดีอาจนำการตอบสนองที่ไม่เป็นอันตรายไปใช้ในกิจกรรมผิดกฎหมายหรือผิดจริยธรรม

  • ลายน้ำแบบมองไม่เห็นช่วยระบุแหล่งที่มาของเนื้อหาได้
  • อาจต้องอาศัยการแทรกแซงจากหน่วยงานบังคับใช้กฎหมาย
แนวคิด Generative AI

การสื่อสารและข้อเสนอแนะ

  • แนวทางการใช้งานที่ชัดเจน
  • วงจรข้อเสนอแนะ
    • การศึกษาผู้ใช้และเวทีหารือกับผู้มีส่วนได้ส่วนเสีย
    • ร่วมมือกับองค์กรภาคประชาสังคม
    • โอกาสให้ข้อเสนอแนะในผลิตภัณฑ์

คนขับรถกำลังคาดเข็มขัดนิรภัย

แนวคิด Generative AI

มาฝึกกันเถอะ!

แนวคิด Generative AI

Preparing Video For Download...