Etická a environmentální rizika

Koncepty velkých jazykových modelů (LLM)

Vidhi Chugh

AI strategist and ethicist

Etická rizika

  • Riziko transparentnosti

Riziko transparentnosti

Koncepty velkých jazykových modelů (LLM)

Etická rizika

  • Riziko transparentnosti
  • Riziko odpovědnosti -

Riziko transparentnosti a odpovědnosti

Koncepty velkých jazykových modelů (LLM)

Etická rizika

  • Riziko transparentnosti

  • Riziko odpovědnosti

  • Informační rizika

Všechna tři etická rizika: transparentnost, odpovědnost, informační rizika

Koncepty velkých jazykových modelů (LLM)

Riziko transparentnosti

  • Obtížné pochopit výstup

 

  • Obtížné odhalit problémy
    • Zkreslení
    • Chyby
    • Zneužití
  • Černá skříňka

 

  • Příklad: zdůvodnění predikce průběhu nemoci

Zkreslení, chyby nebo zneužití výstupu z LLM

Koncepty velkých jazykových modelů (LLM)

Riziko odpovědnosti

  • Odpovědnost za jednání LLM

 

  • Kdo nese odpovědnost?
    • Nesprávné a škodlivé rady
    • Vývojář modelu, nebo firma?

 

  • Hra bez pravidel
    • Žádná transparentnost
    • Žádná odpovědnost

 

Odpovědnost vývojáře nebo subjektu nasazujícího LLM

1 Freepik
Koncepty velkých jazykových modelů (LLM)

Informační rizika

Informační rizika Šíření škodlivých informací

  • Tvorba škodlivého obsahu
  • Šíření dezinformací
  • Zlovolné zneužití
  • Toxicita
Koncepty velkých jazykových modelů (LLM)

Informační rizika

 

Tvorba škodlivého obsahu

  • Škodlivý, urážlivý či nevhodný

 

  • Prompt nebo zkreslená trénovací data

 

  • Příklad:
    • Šikana vs. přátelské školní prostředí
    • Tísnivý a škodlivý

 

Šíření dezinformací

  • Generování textu na jakékoli téma

 

  • Ale bez ověření!

 

  • Příklad:
    • "Jaká je vhodná dieta na hubnutí?"
    • Nepodložený dietní plán
Koncepty velkých jazykových modelů (LLM)

Informační rizika

 

Zlovolné zneužití

  • Útočníci zneužívající LLM

 

  • Tvorba klamavého obsahu

 

  • Příklad:
    • Vymyšlené zprávy
    • Manipulace veřejnosti a vyvolávání nepokojů

 

Toxicita

  • Nevhodný obsah

 

  • Trénink nebo manipulované prompty

 

  • Příklad:
    • Necitlivá odpověď
    • Stereotyp
Koncepty velkých jazykových modelů (LLM)

Environmentální rizika

 

  • Ekologická stopa LLM

 

  • Tréninkem vysoká spotřeba energie

 

  • Dopad přes emise CO2

Snižování emisí CO2

1 Freepik
Koncepty velkých jazykových modelů (LLM)

Chlazení také spotřebovává elektřinu!

  • Produkují značné teplo, které vyžaduje chlazení

 

  • Představte si tisíce přehřátých notebooků
    • Potřeba složitých chladicích systémů
    • Zvyšuje dopad na životní prostředí

 

  • Vyvážit náklady a přínosy
    • Obnovitelné zdroje
    • Energeticky úsporné technologie

 

Obrázek znázorňující rovnováhu mezi ekologickými náklady a technologickou inovací

1 Freepik
Koncepty velkých jazykových modelů (LLM)

Pojďme procvičovat!

Koncepty velkých jazykových modelů (LLM)

Preparing Video For Download...