伦理与环境问题

Large Language Models (LLMs) 概念

Vidhi Chugh

AI strategist and ethicist

伦理问题

  • 透明性风险

透明性风险

Large Language Models (LLMs) 概念

伦理问题

  • 透明性风险
  • 问责风险 -

透明性与问责风险

Large Language Models (LLMs) 概念

伦理问题

  • 透明性风险

  • 问责风险

  • 信息危害

三类伦理问题：透明性、问责、信息危害

Large Language Models (LLMs) 概念

透明性风险

  • 输出难以理解

 

  • 难以识别问题
    • 偏见
    • 错误
    • 误用
  • 黑箱

 

  • 例：预测疾病结果的推理依据

由大语言模型生成结果的偏见、错误或误用

Large Language Models (LLMs) 概念

问责风险

  • LLM 行为的责任

 

  • 谁来负责？
    • 错误且有害的建议
    • 模型开发者还是部署公司？

 

  • 无规可循的博弈
    • 缺乏透明
    • 缺乏问责

 

开发者或部署实体的问责

1 Freepik
Large Language Models (LLMs) 概念

信息危害

信息危害 传播有害信息

  • 生成有害内容
  • 传播错误信息
  • 恶意使用
  • 毒性
Large Language Models (LLMs) 概念

信息危害

 

生成有害内容

  • 有害、冒犯或不当

 

  • 源于提示或偏见训练数据

 

  • 示例：
    • 欺凌 vs. 友善的校园环境
    • 令人不安且有害

 

传播错误信息

  • 可生成任意主题文本

 

  • 但无核验！

 

  • 示例：
    • "减肥的好饮食是什么？"
    • 缺乏证据的饮食方案
Large Language Models (LLMs) 概念

信息危害

 

恶意使用

  • 不法分子利用 LLM

 

  • 生成欺骗性内容

 

  • 示例：
    • 捏造新闻
    • 操纵公众、引发动荡

 

毒性

  • 不当内容

 

  • 源于训练或被操纵的提示

 

  • 示例：
    • 不敏感的回复
    • 刻板印象
Large Language Models (LLMs) 概念

环境问题

 

  • LLM 的生态足迹

 

  • 训练需大量能源

 

  • 通过碳排放产生影响

减少碳排放

1 Freepik
Large Language Models (LLMs) 概念

冷却也要耗电！

  • 产生大量热量，需冷却

 

  • 想象数千台笔记本过热
    • 需要复杂冷却系统
    • 增加环境影响

 

  • 权衡成本与收益
    • 使用可再生能源
    • 采用节能技术

 

体现环境成本与技术创新平衡的图像

1 Freepik
Large Language Models (LLMs) 概念

Passons à la pratique !

Large Language Models (LLMs) 概念

Preparing Video For Download...