Databricks नोटबुक्स के साथ काम करना

Databricks में Spark SQL के साथ Data Transformation

Disha Mukherjee

Lead Data Engineer

आपकी प्रशिक्षक

$$

$$

$$

दिशा मुखर्जी

  • लीड डेटा इंजीनियर
  • Ford Credit, Just Eat और PayU में कार्य अनुभव

 

प्रशिक्षक का फोटो

Databricks में Spark SQL के साथ Data Transformation

$$

Databricks SQL का परिचय

$$

$$

  • स्किल्स को सीधे Databricks में लागू करेंगे 🧱

$$

PySpark का परिचय

Databricks में Spark SQL के साथ Data Transformation

क्या अपेक्षा करें

नोटबुक, डेटा, ट्रांसफॉर्मेशन के आइकन

Databricks में Spark SQL के साथ Data Transformation

Databricks क्या है?

Databricks वर्कस्पेस ओवरव्यू

  • इंजीनियरिंग और एनालिटिक्स के टूल देता है 📊
  • हमारे लिए प्रोविजनिंग और स्केलिंग संभालता है 🔄
Databricks में Spark SQL के साथ Data Transformation

क्लस्टर्स और Spark

ड्राइवर और वर्कर्स का आरेख

  • Spark बड़े डेटासेट कुशलता से संभालता है 🚀
  • अभ्यासों में serverless compute है - वही आर्किटेक्चर, कोई सेटअप नहीं
Databricks में Spark SQL के साथ Data Transformation

Databricks नोटबुक्स

कई सेल वाले Databricks नोटबुक

Databricks में Spark SQL के साथ Data Transformation

डेटासेट परिचय

कस्टमर ट्रांज़ैक्शन्स की टेबल प्रीव्यू

Databricks में Spark SQL के साथ Data Transformation

Unity Catalog Volumes

Upload to volume विकल्प के साथ एक वॉल्यूम दिखाती कैटलॉग UI

Databricks में Spark SQL के साथ Data Transformation

डेटा को DataFrame में लोड करना

path = "/Volumes/.../default/transactions.csv"
df = spark.read.csv(path, header=True, inferSchema=True)
df:pyspark.sql.connect.dataframe.DataFrame
    ID:integer
    Date:timestamp
    Customer_ID:string
    ....
    Transaction_Status:string
Databricks में Spark SQL के साथ Data Transformation

DataFrame का निरीक्षण

df.printSchema()
root
 |-- ID: integer (nullable = true)
 |-- Date: timestamp (nullable = true)
 ...
 |-- Transaction_Status: string (nullable = true)
Databricks में Spark SQL के साथ Data Transformation

डेटा का प्रीव्यू

df.show(5, truncate=False)

Databricks में आउटपुट का प्रीव्यू

Databricks में Spark SQL के साथ Data Transformation

ड्राइवर लॉग्स

ड्राइवर लॉग्स

Databricks में Spark SQL के साथ Data Transformation

अभ्यास करते हैं!

Databricks में Spark SQL के साथ Data Transformation

Preparing Video For Download...