Условные операции со столбцами DataFrame

Очистка данных с помощью PySpark

Mike Metzger

Data Engineering Consultant

Условные выражения

Условные выражения — это:

.when(<условие>, <значение>)

df.select(df.Name, df.Age, F.when(df.Age >= 18, "Adult"))

Несколько .when()

df.select(df.Name, df.Age, 
          .when(df.Age >= 18, "Adult")
          .when(df.Age < 18, "Minor"))

.otherwise() аналогично else

df.select(df.Name, df.Age,
          .when(df.Age >= 18, "Adult")
          .otherwise("Minor"))

Очистка данных с помощью PySpark