言語を当てられますか？

Pythonで学ぶSentiment Analysis

Violeta Misheva

Data Scientist

Pythonで文字列の言語を判定

from langdetect import detect_langs 
foreign = 'Este libro ha sido uno de los mejores libros que he leido.'

detect_langs(foreign)

[es:0.9999945352697024]

列の言語を判定

課題: 各文字列の言語を判定し、最も可能性の高い言語を新しい列に保存する

from langdetect import detect_langs 
reviews = pd.read_csv('product_reviews.csv')

reviews.head()

Amazon商品のレビュー上位5行

言語の特徴量を作成

languages = []

for row in range(len(reviews)):
    languages.append(detect_langs(reviews.iloc[row, 1]))

languages
[it:0.9999982541301151],
[es:0.9999954153640488],
[es:0.7142833997345875, en:0.2857160465706441],
[es:0.9999942365605781],
[es:0.999997956049055] ...

言語の特徴量を作成

# 最初の要素を文字列化してコロンで分割
str(languages[0]).split(':') 
['[es', '0.9999954153640488]']

str(languages[0]).split(':')[0]
'[es'

str(languages[0]).split(':')[0][1:]
'es'

言語の特徴量を作成

languages = [str(lang).split(':')[0][1:] for lang in languages]

reviews['language'] = languages

練習しましょう！

Pythonで学ぶSentiment Analysis