Etické aspekty a ochranné zábrany

Úvod do Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Proč záleží na etice AI

  • Modely AI mohou upevňovat předsudky a generovat škodlivý obsah

Ikona dvou žen v růžové barvě znázorňující genderové předsudky

Úvod do Amazon Bedrock

Proč záleží na etice AI

  • Modely AI mohou upevňovat předsudky a generovat škodlivý obsah

  • Ochrana soukromí při práci s citlivými daty

Ikony znázorňující genderové předsudky a soukromí

Úvod do Amazon Bedrock

Proč záleží na etice AI

  • Modely AI mohou upevňovat předsudky a generovat škodlivý obsah

  • Ochrana soukromí při práci s citlivými daty

  • Požadavky právní a regulatorní shody

Ikony znázorňující genderové předsudky, soukromí a právní shodu

Úvod do Amazon Bedrock

Proč záleží na etice AI

  • Modely AI mohou upevňovat předsudky a generovat škodlivý obsah

  • Ochrana soukromí při práci s citlivými daty

  • Požadavky právní a regulatorní shody

  • Riziko zneužití pro šíření dezinformací

Ikony znázorňující genderové předsudky, soukromí, právní shodu a dezinformace

Úvod do Amazon Bedrock

Proč záleží na etice AI

  • Modely AI mohou upevňovat předsudky a generovat škodlivý obsah

  • Ochrana soukromí při práci s citlivými daty

  • Požadavky právní a regulatorní shody

  • Riziko zneužití pro šíření dezinformací

  • Firemní reputace a důvěra zainteresovaných stran

Ikony znázorňující genderové předsudky, soukromí, právní shodu, dezinformace a důvěru

Úvod do Amazon Bedrock

Ochrana modelů pomocí zábran

  • Zábrany: ochranná opatření
    • Filtrování obsahu
    • Detekce předsudků
    • Přísné zásady používání
  • Vždy začínáme nejpřísnější úrovní
  • Výchozí úroveň kontroly škodlivého obsahu

 

Jednoduchá ilustrace bezpečnostních zábran znázorněných jako dvě vodorovné šedé bariéry na žlutých sloupcích, symbolizující bezpečnostní opatření a filtrování obsahu v systémech AI.

Úvod do Amazon Bedrock

Moderování obsahu

def moderate_content_claude(text, strictness="medium"):

instruction = {
"high": "Strictly analyze for inappropriate content. ",
"medium": "Check for obviously toxic language. ",
"low": "Check the tone. "
}
prompt = f"{instruction[strictness]}\n{text}" body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 100, "temperature": 0.2, "messages": prompt}) # Low temperature response = bedrock.invoke_model(body=body, modelId=model_id) response_body = json.loads(response.get('body').read()) return response_body
Úvod do Amazon Bedrock

Monitorování a údržba

  • Nastavení automatického monitorování
  • Pravidelná kontrola filtrovaného obsahu
  • Sledování vzorců odpovědí kvůli anomáliím
  • Vedení protokolů filtrovaných požadavků

 

Ikona lupy nad grafem znázorňující monitorování

Úvod do Amazon Bedrock

Plán reakce na incidenty

  • Plán pro případ nevhodného chování modelu
  • Definované eskalační postupy
  • Záložní modely připraveny k použití
  • Incidenty sledovány za účelem zlepšení

  Ikona kontrolního seznamu znázorňující plán pro případ chyb

Úvod do Amazon Bedrock

Hlavní poznatky pro etiku AI

🛑 Bezpečnost na prvním místě

  • Vždy povolte filtrování obsahu a detekci předsudků

 

🚦 Implementace

  • Využívejte vestavěné zábrany Bedrocku

 

🔦 Průběžné zlepšování

  • Sledujte a analyzujte výsledky
  • Sledujte aktuální osvědčené postupy
Úvod do Amazon Bedrock

Pojďme si procvičit!

Úvod do Amazon Bedrock

Preparing Video For Download...