병렬 컴퓨팅

데이터 엔지니어링의 이해

Hadrien Lacroix

Content Developer at DataCamp

병렬 컴퓨팅

  • 현대 데이터 처리 도구의 기초
  • 필요한 이유:
    • 주로 메모리 때문
    • 처리 성능 측면에서도 중요
  • 작업 수행 방법:
    • 작업을 작은 하위 작업 여러 개로 나누기
    • 다수의 컴퓨터에 하위 작업 분산
데이터 엔지니어링의 이해

1,000장의 티셔츠

데이터 엔지니어링의 이해

숙련된 직원

데이터 엔지니어링의 이해

신입 직원

1 모하메드 하산의 이모지
데이터 엔지니어링의 이해

한 번에 한 명의 직원만

데이터 엔지니어링의 이해

티셔츠 나누기

데이터 엔지니어링의 이해

신입 직원은 1시간 15분만에 완료

데이터 엔지니어링의 이해

숙련된 직원은 2시간 13분만에 완료

데이터 엔지니어링의 이해

병렬 컴퓨팅의 장단점

  • 직원 = 처리 유닛
  • 장점
    • 추가 처리 능력
    • 메모리 사용량 감소
  • 단점
    • 데이터 이동에 비용 발생
    • 통신 시간
데이터 엔지니어링의 이해

신입 직원과 숙련된 직원의 성과 비교

데이터 엔지니어링의 이해

4명의 신입 직원에게 1,000개의 티셔츠를 배분하는 데 10분이 걸립니다

데이터 엔지니어링의 이해

4명의 신입 직원이 접은 티셔츠를 한 더미로 모으는 데 5분이 걸립니다

데이터 엔지니어링의 이해

데이터 파이프라인

데이터 엔지니어링의 이해

데이터 파이프라인

데이터 엔지니어링의 이해

요약

  • 이점과 위험
  • Spotflix에서의 구현 방식
데이터 엔지니어링의 이해

연습해봅시다!

데이터 엔지니어링의 이해

Preparing Video For Download...