Czy potrafisz odgadnąć język?

Analiza sentymentu w Pythonie

Violeta Misheva

Data Scientist

Wykrywanie języka ciągu znaków w Pythonie

from langdetect import detect_langs 
foreign = 'Este libro ha sido uno de los mejores libros que he leido.'

detect_langs(foreign)

[es:0.9999945352697024]

Wykrywanie języka w kolumnie

Problem: wykryć język każdego ciągu znaków i zapisać najbardziej prawdopodobny język w nowej kolumnie

from langdetect import detect_langs 
reviews = pd.read_csv('product_reviews.csv')

reviews.head()

5 pierwszych wierszy recenzji produktów Amazon

Tworzenie cechy języka

languages = []

for row in range(len(reviews)):
    languages.append(detect_langs(reviews.iloc[row, 1]))

languages
[it:0.9999982541301151],
[es:0.9999954153640488],
[es:0.7142833997345875, en:0.2857160465706441],
[es:0.9999942365605781],
[es:0.999997956049055] ...

Tworzenie cechy języka

# Transform the first list to a string and split on a colon
str(languages[0]).split(':') 
['[es', '0.9999954153640488]']

str(languages[0]).split(':')[0]
'[es'

str(languages[0]).split(':')[0][1:]
'es'

Tworzenie cechy języka

languages = [str(lang).split(':')[0][1:] for lang in languages]

reviews['language'] = languages

Czas na ćwiczenia!

Analiza sentymentu w Pythonie