R 코퍼스 이해하기

R로 배우는 자연어 처리 입문

Kasey Jones

Data Scientist

코퍼스

자연어 텍스트 문서 모음
tm 패키지의 corpus
VCorpus - 가장 일반적 표현

¹ https://www.rdocumentation.org/packages/tm/versions/0.7-8/topics/Corpus

VCorpus의 내용: 메타데이터

library(tm)
data("acq")

acq[[1]]$meta

  author       : character(0)
  datetimestamp: 1987-02-26 15:18:06
  heading      : COMPUTER TERMINAL SYSTEMS <CPML> COMPLETES SALE
  id           : 10
  language     : en
  origin       : Reuters-21578 XML
  ...          : ...

¹ http://www.daviddlewis.com/resources/testcollections/reuters21578/

VCorpus의 내용: 메타데이터

library(tm)
data("acq")

acq[[1]]$meta$places

[1] "usa"

VCorpus의 내용: 콘텐츠

acq[[1]]$content

[1] "Computer Terminal Systems Inc said it has completed ...

acq[[2]]$content

[1] "Ohio Mattress Co said its first quarter, ending ...

코퍼스 정리하기

library(tm)
library(tidytext)
data("acq")

tidy_data <- tidy(acq)
tidy_data

# A tibble: 50 x 16
   author datetimestamp       description heading id    language origin
   <chr>  <dttm>              <chr>       <chr>   <chr> <chr>  <list>
 1 <NA>   1987-02-26 10:18:06 ""          COMPUT… 10    en       <chr …
...

코퍼스 만들기

코퍼스 생성

corpus <- VCorpus(VectorSource(tidy_data$text))

메타데이터 추가

meta(corpus, 'Author') <- tidy_data$author
meta(corpus, 'oldid') <- tidy_data$oldid
head(meta(corpus))

  Author oldid
1 <NA>  5553
2 <NA>  5555

실제로 살펴봅시다.

R로 배우는 자연어 처리 입문