윤리와 가드레일 고려사항

Amazon Bedrock 입문

Nikhil Rangarajan

Data Scientist

윤리적 AI가 중요한 이유

  • AI 모델은 편향을 지속하고 유해한 콘텐츠를 생성할 수 있음

성편향을 나타내는 분홍색 여성 두 명의 아이콘

Amazon Bedrock 입문

윤리적 AI가 중요한 이유

  • AI 모델은 편향을 지속하고 유해한 콘텐츠를 생성할 수 있음

  • 민감한 데이터 처리 시 개인정보 보호 우려

성편향과 프라이버시를 나타내는 아이콘

Amazon Bedrock 입문

윤리적 AI가 중요한 이유

  • AI 모델은 편향을 지속하고 유해한 콘텐츠를 생성할 수 있음

  • 민감한 데이터 처리 시 개인정보 보호 우려

  • 법적/규제 준수 요구사항

성편향, 프라이버시, 법적 준수를 나타내는 아이콘

Amazon Bedrock 입문

윤리적 AI가 중요한 이유

  • AI 모델은 편향을 지속하고 유해한 콘텐츠를 생성할 수 있음

  • 민감한 데이터 처리 시 개인정보 보호 우려

  • 법적/규제 준수 요구사항

  • 허위정보 확산에 악용될 가능성

성편향, 프라이버시, 법적 준수, 허위정보를 나타내는 아이콘

Amazon Bedrock 입문

윤리적 AI가 중요한 이유

  • AI 모델은 편향을 지속하고 유해한 콘텐츠를 생성할 수 있음

  • 민감한 데이터 처리 시 개인정보 보호 우려

  • 법적/규제 준수 요구사항

  • 허위정보 확산에 악용될 가능성

  • 비즈니스 평판과 이해관계자 신뢰

성편향, 프라이버시, 법적 준수, 허위정보, 신뢰를 나타내는 아이콘

Amazon Bedrock 입문

가드레일로 모델 보호하기

  • 가드레일: 보호 조치
    • 콘텐츠 필터링
    • 편향 탐지
    • 엄격한 사용 정책
  • 항상 가장 엄격한 수준으로 시작
  • 유해 콘텐츠 기본 심사 수준 설정

 

보안 가드레일을 회색 가로 장벽과 노란 기둥으로 단순하게 묘사한 그림으로, AI 시스템의 안전 조치와 콘텐츠 필터링을 나타냄.

Amazon Bedrock 입문

콘텐츠 중재

def moderate_content_claude(text, strictness="medium"):

instruction = {
"high": "Strictly analyze for inappropriate content. ",
"medium": "Check for obviously toxic language. ",
"low": "Check the tone. "
}
prompt = f"{instruction[strictness]}\n{text}" body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 100, "temperature": 0.2, "messages": prompt}) # Low temperature response = bedrock.invoke_model(body=body, modelId=model_id) response_body = json.loads(response.get('body').read()) return response_body
Amazon Bedrock 입문

모니터링과 유지관리

  • 자동 모니터링 설정
  • 필터링된 콘텐츠 정기 검토
  • 응답 패턴 이상 징후 추적
  • 필터링된 요청 로그 유지

 

모니터링을 나타내는 그래프 위 돋보기 아이콘

Amazon Bedrock 입문

대응 계획

  • 모델 오작동 대비 계획
  • 에스컬레이션 절차 정의
  • 백업 모델 사전 구성
  • 사건을 기록해 개선

  오류 발생 시 계획 수립을 나타내는 체크리스트 아이콘

Amazon Bedrock 입문

윤리적 AI 핵심 정리

🛑 안전 최우선

  • 콘텐츠 필터링과 편향 탐지를 항상 활성화

 

🚦 구현

  • Bedrock 기본 보호장치 사용

 

🔦 지속적 개선

  • 결과 모니터링 및 분석
  • 모범 사례 최신 상태 유지
Amazon Bedrock 입문

연습해 봅시다!

Amazon Bedrock 입문

Preparing Video For Download...