टेक्स्ट क्लासिफिकेशन

Python में Spark SQL परिचय

Mark Plutowski

Data Scientist

एंडवर्ड प्रेडिक्शन

Python में Spark SQL परिचय

सीक्वेंस एरो

Python में Spark SQL परिचय

एंडवर्ड

Python में Spark SQL परिचय

एंडवर्ड ब्रैकेट

Python में Spark SQL परिचय

शफ़ल 1

Python में Spark SQL परिचय

शफ़ल 2

Python में Spark SQL परिचय

गाने

Python में Spark SQL परिचय

वीडियो

Python में Spark SQL परिचय

डेटा चुनना

df_true = df.where("endword in ('she', 'he', 'hers', 'his', 'her', 'him')")\
            .withColumn('label', lit(1))

df_false = df.where("endword not in ('she', 'he', 'hers', 'his', 'her', 'him')")\
           .withColumn('label', lit(0))
Python में Spark SQL परिचय

पॉजिटिव और नेगेटिव डेटा मिलाना

df_examples = df_true.union(df_false)
Python में Spark SQL परिचय

डेटा को ट्रेनिंग और इवैल्युएशन सेट में बाँटना

df_train, df_eval = df_examples.randomSplit((0.60, 0.40), 42)
Python में Spark SQL परिचय

ट्रेनिंग

from pyspark.ml.classification import LogisticRegression

logistic = LogisticRegression(maxIter=50, regParam=0.6, elasticNetParam=0.3)
model = logistic.fit(df_train)
print("Training iterations: ", model.summary.totalIterations)
Python में Spark SQL परिचय

अभ्यास करते हैं!

Python में Spark SQL परिचय

Preparing Video For Download...