Odpowiedzialne zastosowania generatywnej AI

Koncepcje generatywnej AI

Daniel Tedesco

Data Lead, Google

W przeddzień wyborów

Kolekcja fałszywych nagłówków prasowych

Koncepcje generatywnej AI

Rodzaje złośliwego wykorzystania

  • Deepfakes
  • Kampanie dezinformacyjne
  • Hakerstwo wspomagane przez AI

Wygenerowany przez AI obraz papieża w kurtce puchowej

1 Pablo Xavier
Koncepcje generatywnej AI

Wykrywanie i zapobieganie

Kluczowe zasady użytkowania

  • Człowiek w pętli decyzyjnej
  • Zapobieganie szkodom
  • Stały monitoring

 

Punkty wykrywania i zapobiegania

Schemat blokowy punktów w procesie użycia AI: dostęp, prompty, odpowiedzi, zastosowanie oraz komunikacja i informacja zwrotna.

Koncepcje generatywnej AI

Dostęp

AI może nieumyślnie wspierać nielegalne grupy w ich legalnej działalności.

  • Unikaj wspierania złośliwych podmiotów
  • Zasada Know Your Customer (KYC)
    • Weryfikuj tożsamość użytkownika

Złowroga postać przykładająca palec do ust.

Koncepcje generatywnej AI

Prompty i odpowiedzi

Moderowanie promptów

  • Podobne do moderacji stron internetowych lub grup czatowych
  • Prompty typu jailbreak mogą nadal obchodzić wytyczne twórców

Moderowanie odpowiedzi

  • Sprawdzaj lub filtruj odpowiedzi przed wyświetleniem użytkownikowi
Koncepcje generatywnej AI

Zastosowania

Nieuczciwe podmioty mogą wykorzystywać niewinne odpowiedzi do nielegalnych lub nieetycznych działań.

  • Niewidoczne znaki wodne pomagają ustalić źródło treści
  • Może być konieczna interwencja organów ścigania
Koncepcje generatywnej AI

Komunikacja i informacja zwrotna

  • Przejrzyste wytyczne dotyczące użytkowania
  • Pętle informacji zwrotnej
    • Badania z użytkownikami i okrągłe stoły interesariuszy
    • Współpraca z organizacjami społeczeństwa obywatelskiego
    • Możliwości przekazywania opinii w produkcie

Kierowca zapinający pas bezpieczeństwa

Koncepcje generatywnej AI

Czas na praktykę!

Koncepcje generatywnej AI

Preparing Video For Download...