PySpark でデータをクレンジングする
Mike Metzger
Data Engineering Consultant
条件句 とは:
.when().otherwise().when(<条件>, <なら x>)
df.select(df.Name, df.Age, F.when(df.Age >= 18, "Adult"))
| Name | Age | |
|---|---|---|
| Alice | 14 | |
| Bob | 18 | Adult |
| Candice | 38 | Adult |
複数の .when()
df.select(df.Name, df.Age,
.when(df.Age >= 18, "Adult")
.when(df.Age < 18, "Minor"))
| Name | Age | |
|---|---|---|
| Alice | 14 | Minor |
| Bob | 18 | Adult |
| Candice | 38 | Adult |
.otherwise() は else のように動作
df.select(df.Name, df.Age,
.when(df.Age >= 18, "Adult")
.otherwise("Minor"))
| Name | Age | |
|---|---|---|
| Alice | 14 | Minor |
| Bob | 18 | Adult |
| Candice | 38 | Adult |
PySpark でデータをクレンジングする