Verantwortungsvoller Umgang mit generativer KI

Konzeptuelle Einführung in generative KI

Daniel Tedesco

Data Lead, Google

Am Vorabend der Wahl

Sammlung von Fake News Schlagzeilen

KI-generiertes Bild des Papstes in einer Daunenjacke

¹ Pablo Xavier

Wichtige Nutzungsprinzipien

Punkte zur Erkennung und Prävention

Ein Flussdiagramm der Punkte, die bei der Nutzung von KI eine Rolle spielen: Zugang, Prompts, Antworten, Anwendung, Kommunikation und Feedback.

KI kann ungewollt die nicht-kriminellen Aktivitäten von kriminellen Gruppen unterstützen.

Eine bedrohlich aussehende Person, die mit einer Handgeste zum Schweigen auffordert

Moderation von Prompts

Ähnlich wie bei der Moderation von Websites oder Chatgruppen
Jailbreaking-Prompts können immer noch Richtlinien von Entwicklungsteams unterlaufen

Moderation von Antworten

Böswillige Personen können harmlose Antworten auf illegale oder unethische Aktivitäten anwenden.

Klare Nutzungsrichtlinien
Feedbackschleifen
- Nutzungsstudien und runde Tische für Interessengruppen
- Partnerschaften mit Organisationen der Zivilgesellschaft
- Feedback-Möglichkeiten im Produkt

Eine Autofahrerin, die sich anschnallt

Konzeptuelle Einführung in generative KI