Kwestie etyczne i środowiskowe

Koncepcje dużych modeli językowych (LLM)

Vidhi Chugh

AI strategist and ethicist

Kwestie etyczne

  • Ryzyko braku przejrzystości

Ryzyko braku przejrzystości

Koncepcje dużych modeli językowych (LLM)

Kwestie etyczne

  • Ryzyko braku przejrzystości
  • Ryzyko braku rozliczalności -

Ryzyko braku przejrzystości i rozliczalności

Koncepcje dużych modeli językowych (LLM)

Kwestie etyczne

  • Ryzyko braku przejrzystości

  • Ryzyko braku rozliczalności

  • Zagrożenia informacyjne

Trzy kwestie etyczne: przejrzystość, rozliczalność, zagrożenia informacyjne

Koncepcje dużych modeli językowych (LLM)

Ryzyko braku przejrzystości

  • Trudność w zrozumieniu wyników

 

  • Trudne wykrywanie problemów
    • Stronniczość
    • Błędy
    • Nadużycia
  • Czarna skrzynka

 

  • Przykład: uzasadnienie prognozowania wyników leczenia

Stronniczość, błędy lub nadużycia wyników generowanych przez LLM

Koncepcje dużych modeli językowych (LLM)

Ryzyko braku rozliczalności

  • Odpowiedzialność za działania LLM

 

  • Kto ponosi odpowiedzialność?
    • Nieprawidłowe i szkodliwe porady
    • Twórca modelu czy firma?

 

  • Gra bez reguł
    • Brak przejrzystości
    • Brak rozliczalności

 

Odpowiedzialność dewelopera lub podmiotu wdrażającego LLM

1 Freepik
Koncepcje dużych modeli językowych (LLM)

Zagrożenia informacyjne

Zagrożenia informacyjne Rozpowszechnianie szkodliwych informacji

  • Generowanie szkodliwych treści
  • Szerzenie dezinformacji
  • Złośliwe użycie
  • Toksyczność
Koncepcje dużych modeli językowych (LLM)

Zagrożenia informacyjne

 

Generowanie szkodliwych treści

  • Treści szkodliwe, obraźliwe lub nieodpowiednie

 

  • Prompt lub stronnicze dane treningowe

 

  • Przykład:
    • Nękanie a przyjazne środowisko szkolne
    • Treści krzywdzące i szkodliwe

 

Szerzenie dezinformacji

  • Generowanie tekstu na dowolny temat

 

  • Ale bez weryfikacji!

 

  • Przykład:
    • „Jaka dieta jest dobra na odchudzanie?"
    • Niepotwierdzony plan diety
Koncepcje dużych modeli językowych (LLM)

Zagrożenia informacyjne

 

Złośliwe użycie

  • Wykorzystywanie LLM przez złych aktorów

 

  • Generowanie wprowadzających w błąd treści

 

  • Przykład:
    • Sfabrykowane wiadomości
    • Manipulowanie opinią publiczną i wywoływanie niepokojów

 

Toksyczność

  • Nieodpowiednie treści

 

  • Dane treningowe lub manipulowane prompty

 

  • Przykład:
    • Niestosowna odpowiedź
    • Stereotyp
Koncepcje dużych modeli językowych (LLM)

Kwestie środowiskowe

 

  • Ślad ekologiczny LLM

 

  • Znaczne zasoby energii do trenowania

 

  • Wpływ poprzez emisję dwutlenku węgla

Redukcja emisji dwutlenku węgla

1 Freepik
Koncepcje dużych modeli językowych (LLM)

Chłodzenie też wymaga energii!

  • Wytwarzają duże ilości ciepła wymagające chłodzenia

 

  • Wyobraź sobie tysiące przegrzanych laptopów
    • Wymagają złożonych systemów chłodzenia
    • Zwiększają wpływ na środowisko

 

  • Równowaga kosztów i korzyści
    • Energia odnawialna
    • Energooszczędne technologie

 

Obraz przedstawiający równowagę między kosztem środowiskowym a innowacją technologiczną

1 Freepik
Koncepcje dużych modeli językowych (LLM)

Czas na ćwiczenia!

Koncepcje dużych modeli językowych (LLM)

Preparing Video For Download...