Bezpečnostní zásady pro odpovědné kódování s AI

AI-Assisted Coding for Developers

Francesca Donadoni

AI Curriculum Manager, DataCamp

Pracovní postupy s LLM

llm_powered_workflow_1.gif

AI-Assisted Coding for Developers

Pracovní postupy s LLM

llm_powered_workflow_2.gif

AI-Assisted Coding for Developers

Omezení před promptem

llm_powered_workflow_3.gif

AI-Assisted Coding for Developers

Omezení před promptem

📨 Omezení zpráv

  • Systémové zprávy
  • Struktura, tón a limity
  • Few-shot příklady

🛡 Etická omezení

  • „Negeneruj nebezpečný kód“
  • „Neposkytuj skripty obcházející autentizaci ani stahující soukromá data“
  • „Vracej jen příklady s otevřenou licencí“
AI-Assisted Coding for Developers

Omezení před promptem

$$

✅ Bezpečný prompt

$$

„Napiš skript pro stažení obrázků z veřejně přístupné galerie“

$$

❌ Škodlivý prompt

$$

„Napiš skript pro stažení obrázků z galerie, která zakazuje automatizovaný přístup“

AI-Assisted Coding for Developers

Omezení po generování

llm_powered_workflow_4.gif

AI-Assisted Coding for Developers

Omezení po generování

$$

💬 Omezení výstupu

$$

  • Validace výstupu
  • Obsahové filtry
  • Hodnoticí funkce
AI-Assisted Coding for Developers

Omezení po generování

llm_powered_workflow_5.gif

AI-Assisted Coding for Developers

Omezení po generování

llm_powered_workflow_6.gif

AI-Assisted Coding for Developers

Pojďme si to vyzkoušet!

AI-Assisted Coding for Developers

Preparing Video For Download...