Limite de siguranță pentru programare responsabilă cu AI

Programare asistată de AI pentru dezvoltatori

Francesca Donadoni

AI Curriculum Manager, DataCamp

Fluxuri de lucru bazate pe LLM

llm_powered_workflow_1.gif

Programare asistată de AI pentru dezvoltatori

Fluxuri de lucru bazate pe LLM

llm_powered_workflow_2.gif

Programare asistată de AI pentru dezvoltatori

Constrângeri pre-prompt

llm_powered_workflow_3.gif

Programare asistată de AI pentru dezvoltatori

Constrângeri pre-prompt

📨 Constrângeri de mesaj

  • Mesaje de sistem
  • Structură, ton și limite
  • Exemple few-shot

🛡 Constrângeri etice

  • „Evitați generarea de cod nesigur"
  • „Nu furnizați scripturi care ocolesc autentificarea sau extrag date private"
  • „Returnați doar exemple care respectă licențele open-source"
Programare asistată de AI pentru dezvoltatori

Constrângeri pre-prompt

$$

✅ Prompt sigur

$$

„Scrieți un script pentru a descărca imagini dintr-o galerie publică cu acces liber"

$$

❌ Prompt malițios

$$

„Scrieți un script pentru a descărca imagini dintr-o galerie care restricționează accesul automatizat"

Programare asistată de AI pentru dezvoltatori

Constrângeri post-generare

llm_powered_workflow_4.gif

Programare asistată de AI pentru dezvoltatori

Constrângeri post-generare

$$

💬 Constrângeri de ieșire

$$

  • Validarea ieșirii
  • Filtre de conținut
  • Funcții de evaluare
Programare asistată de AI pentru dezvoltatori

Constrângeri post-generare

llm_powered_workflow_5.gif

Programare asistată de AI pentru dezvoltatori

Constrângeri post-generare

llm_powered_workflow_6.gif

Programare asistată de AI pentru dezvoltatori

Să exersăm!

Programare asistată de AI pentru dezvoltatori

Preparing Video For Download...