負責任 AI 程式開發的防護欄

AI-Assisted Coding for Developers

Francesca Donadoni

AI Curriculum Manager, DataCamp

LLM 驅動的工作流程

LLM 驅動的工作流程

前置提示限制

前置提示限制

📨 訊息限制

• 系統訊息
• 結構、語氣與界線
• 少量示例

🛡 倫理限制

• 「避免產生不安全的程式碼」
• 「不要提供繞過驗證或抓取私人資料的指令稿」
• 「只回傳遵循開源授權的範例」

前置提示限制

$$

✅ 安全的提示

$$

「Write a script to download images from an open-access public gallery」

$$

❌ 惡意的提示

$$

「Write a script to download images from a gallery that restricts automated access」

產出後限制

產出後限制

$$

💬 輸出限制

$$

• 輸出驗證
• 內容篩檢
• 評估函式

產出後限制

產出後限制

一起來練習吧！

AI-Assisted Coding for Developers