负责的 AI：社会偏见、版权与所有权

面向业务的生成式 AI

Carl Rosseel

Head of Business Intelligence Curriculum at DataCamp

AI 中的社会偏见

何为社会偏见？

• 对特定群体的系统性不公平
• 体现在招聘、医疗等场景

何为公平？

• "公平"的定义复杂
• 受社会盲区影响

如何推进？

• 以广泛认可的人类共同价值为准

                         

为何 AI 存在偏见风险？

• 训练数据缺乏多样性或失真
• 模型追求过窄目标
• 用户错误或恶意使用 AI

检测与缓解技术

检测

• 发现或识别其存在
• 用算法计算公平性指标
• 人工审计
• 持续评估与改进

缓解

• 使（不良情况）不那么严重或痛苦。
• 多样化训练数据
• 调整模型

                         

¹ 牛津词典

知识产权与 AI 内容

AI 生成内容

• 绘画、音乐或学术研究

谁拥有内容？

• 提示词提供者
• 开发该 AI 的公司
• AI 本身？

法律格局

• 快速演变中

                         

生成式 AI 与法律环境

• 新法规交织并存
• 需持续关注动态
• 隐私考量
  • 使用条款
  • 共享影响
  • 数据处理

生成式 AI 在各行业的应用

• 创意行业因就业担忧而抗拒
• 医学研究为突破积极采用
• 供应链用于优化与自动化

伦理考量

恶意用途

• 深度伪造
• 虚假信息运动
• 增强型黑客攻击

缓解策略

• 引入人工复核（人机协同）
• 预防与监测危害
• 用户身份验证
• ...

生成式 AI 持续演进

清晰规范与反馈渠道

• 吸纳关键利益相关方
• 召开圆桌讨论
• 与公民社会合作
• 产品反馈闭环

全新且复杂的领域

• 机遇丰富
• 伦理考量与挑战并存
• 减轻社会偏见
• 应对复杂版权问题

Let's practice!

面向业务的生成式 AI