10-04 딥 러닝을 이용한 자연어 처리, IMDB 리뷰 감성 분류하기

자연어 처리(NLP)는 컴퓨터가 인간의 언어를 이해하고 해석하도록 돕는 인공지능(AI)의 한 분야입니다. 최근 몇 년 동안
딥 러닝이 NLP 분야에서 많은 성공을 거두었으며, IMDB(Internet Movie Database) 같은 데이터셋을 사용한
감성 분석은 특히 흥미로운 주제입니다. 이 글에서는 IMDB 영화 리뷰를 사용하여
딥 러닝을 통한 감성 분류를 수행하는 방법에 대해 자세히 설명합니다.

1. 감성 분석이란?

감성 분석(Sentiment Analysis)은 주어진 텍스트에서 감정이나 의견을 추출하여 긍정적, 부정적 또는 중립적인
감정을 분류하는 작업입니다. 예를 들어, 영화 리뷰에서 “이 영화는 정말 재미있었다!”라는 문장은 긍정적인 감정을
전달하고, “이 영화는 최악이었다.”는 부정적인 감정을 나타냅니다. 이러한 분석은 소비자 의견, 소셜 미디어,
마케팅 및 비즈니스 인텔리전스 등 다양한 분야에 활용됩니다.

2. IMDB 데이터셋

IMDB 데이터셋은 매우 널리 사용되는 영화 리뷰 데이터셋입니다. 이 데이터셋은 50,000개의 영화 리뷰로 구성되어 있으며,
각 리뷰는 긍정적(1) 또는 부정적(0)으로 레이블이 붙어 있습니다. 데이터를 구성하는 방식은 다음과 같습니다:

  • 25,000개의 훈련 리뷰
  • 25,000개의 테스트 리뷰
  • 리뷰는 영어로 작성되어 있으며 길이와 내용이 다양합니다

3. 딥 러닝 모델 개요

딥 러닝 모델은 일반적으로 다음과 같은 구조로 구성됩니다:

  • 입력 레이어: 텍스트 데이터를 숫자로 변환합니다.
  • 임베딩 레이어: 단어의 의미를 벡터 형태로 변환하여,
    각 단어 사이의 유사도를 표현합니다.
  • 순환 신경망(RNN) 또는 전치 신경망(CNN): 텍스트의 문맥을
    파악하기 위해 사용됩니다.
  • 출력 레이어: 최종적으로 긍정적 또는 부정적 감정을 예측합니다.

4. 데이터 전처리

데이터 전처리는 모델 성능을 개선하는 데 중요한 단계입니다. IMDB 리뷰의 전처리 과정은 다음과 같습니다:

  1. 텍스트 정제: 특수 문자, 숫자 및 불용어를 제거합니다.
  2. 토큰화: 문장을 단어로 분리합니다.
  3. 단어 인덱스 생성: 각 단어에 고유한 인덱스를 할당합니다.
  4. 패딩: 리뷰의 길이를 통일시키기 위해 짧은 리뷰는 패딩합니다.

5. 딥 러닝 모델 구현

이제 감성 분석을 위한 딥 러닝 모델을 구현해 보겠습니다. 우리는 Keras와 TensorFlow를 사용하여 이 작업을 수행할 것입니다. 


import numpy as np
from keras.datasets import imdb
from keras.models import Sequential
from keras.layers import Dense, Embedding, LSTM, SpatialDropout1D
from keras.preprocessing.sequence import pad_sequences

# 하이퍼파라미터 설정
MAX_NB_WORDS = 50000
MAX_SEQUENCE_LENGTH = 500
EMBEDDING_DIM = 100

# IMDB 데이터셋 로드
(X_train, y_train), (X_test, y_test) = imdb.load_data(num_words=MAX_NB_WORDS)

# 시퀀스를 패딩하여 길이 통일
X_train = pad_sequences(X_train, maxlen=MAX_SEQUENCE_LENGTH)
X_test = pad_sequences(X_test, maxlen=MAX_SEQUENCE_LENGTH)

# LSTM 모델 구축
model = Sequential()
model.add(Embedding(MAX_NB_WORDS, EMBEDDING_DIM, input_length=MAX_SEQUENCE_LENGTH))
model.add(SpatialDropout1D(0.2))
model.add(LSTM(100, dropout=0.2, recurrent_dropout=0.2))
model.add(Dense(1, activation='sigmoid'))

# 모델 컴파일
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'])

# 모델 훈련
history = model.fit(X_train, y_train, validation_data=(X_test, y_test), epochs=5, batch_size=64)

6. 결과 분석

모델 훈련 후, 성능을 평가할 지표로는 정확도와 손실을 사용할 수 있습니다. 훈련이 완료된 후,
검증 세트에 대한 정확도와 손실이 출력되며, 이를 시각화할 수 있습니다. 


import matplotlib.pyplot as plt

# 정확도 시각화
plt.plot(history.history['accuracy'])
plt.plot(history.history['val_accuracy'])
plt.title('모델의 정확도')
plt.ylabel('정확도')
plt.xlabel('Epoch')
plt.legend(['train', 'test'], loc='upper left')
plt.show()

# 손실 시각화
plt.plot(history.history['loss'])
plt.plot(history.history['val_loss'])
plt.title('모델의 손실')
plt.ylabel('손실')
plt.xlabel('Epoch')
plt.legend(['train', 'test'], loc='upper left')
plt.show()

7. 결과 해석

최적의 성능을 이끌어내기 위한 모델의 조정 과정에서는
다양한 하이퍼파라미터(예: 학습률, 배치 크기 등)를 변경하면서
모델을 반복적으로 훈련해 볼 수 있습니다.
이외에도 추가적인 기법으로는 전이 학습(Transfer Learning)이나
앙상블 학습(Ensemble Learning) 등을 적용할 수 있습니다.

8. 결론 및 향후 방향

IMDB 영화 리뷰를 통한 감성 분석은 딥 러닝을 활용한
자연어 처리의 한 예시입니다. 이처럼 다양한 데이터셋을
활용하여 모델을 훈련시키고 평가하는 과정은 NLP의
응용 가능성을 더욱 확장시킬 수 있습니다. 향후 발전 방향으로는
더 많은 언어 데이터셋의 적용, 최신 알고리즘의 채택,
그리고 실시간 감성 분석 시스템의 구축 등을 고려할
수 있습니다. 머신러닝과 딥러닝이 더욱 발전함에 따라
자연어 처리 분야 역시 점점 더 많은 가능성을 열어 갈
것입니다.