การนำเข้าข้อมูล

Introduction to Databricks SQL

Kevin Barlow

Data Manager

แรงจูงใจ

ไดอะแกรมการไหลของ Lakehouse

Introduction to Databricks SQL

การสร้าง Lakehouse

ไดอะแกรมการไหลของ Lakehouse - การนำเข้าข้อมูล

Introduction to Databricks SQL

ตัวเลือกแบบ GUI

Lakeflow Connect

  • Connector ในตัวสำหรับนำเข้าข้อมูล
    • ฐานข้อมูล
    • SaaS Applications
  • สร้าง Pipeline เพื่ออัปเดตข้อมูลให้ทันสมัย

Lakeflow Connect

การอัปโหลดข้อมูล

  • อัปโหลดไฟล์ด้วยตนเอง
    • CSV, Parquet และอื่นๆ
  • สร้าง Delta Table ใหม่ได้อย่างรวดเร็ว
  • เหมาะสำหรับการอัปโหลดข้อมูลแบบ Ad Hoc

การอัปโหลดข้อมูลด้วยตนเอง

Introduction to Databricks SQL

การนำข้อมูลเข้าสู่ Lakehouse

COPY INTO

  • คัดลอกข้อมูลจาก Cloud Object Storage ลงใน Delta Table โดยตรง
  • เหมาะกับชุดข้อมูลที่มีการเปลี่ยนแปลงน้อย
  • รันได้โดยตรงใน SQL Editor
COPY INTO my_table
FROM '/path/to/files'
FILEFORMAT = PARQUET
FORMAT_OPTIONS ('mergeSchema' = 'true')
COPY_OPTIONS ('mergeSchema' = 'true')

Auto Loader

  • นำเข้าไฟล์ข้อมูลใหม่จาก Cloud Storage โดยอัตโนมัติ
  • เหมาะกับชุดข้อมูลขนาดใหญ่หรือที่มีการเปลี่ยนแปลงบ่อย
  • ใช้งานร่วมกับ Delta Live Tables ใน SQL
CREATE TABLE customers
AS SELECT * 
FROM cloud_files(
  "/path/to/files", 
  "csv")
Introduction to Databricks SQL

มาฝึกกันเถอะ!

Introduction to Databricks SQL

Preparing Video For Download...