负责任的 AI 编码护栏

面向开发者的 AI 辅助编码

Francesca Donadoni

AI Curriculum Manager, DataCamp

LLM 驱动的工作流

LLM 驱动的工作流

提示前约束

提示前约束

📨 消息约束

• System messages
• 结构、语气与限制
• 少样本示例

🛡 伦理约束

• "避免生成不安全代码"
• "不要提供绕过认证或抓取私人数据的脚本"
• "仅返回符合开源许可证的示例"

提示前约束

$$

✅ 安全提示

$$

"编写脚本，从开放访问的公共图库下载图像"

$$

❌ 恶意提示

$$

"编写脚本，从限制自动访问的图库下载图像"

生成后约束

生成后约束

$$

💬 输出约束

$$

• 输出验证
• 内容过滤
• 评估函数

生成后约束

生成后约束

Ayo berlatih!

面向开发者的 AI 辅助编码