167. 커뮤니티 악성 댓글 오토 필터링 분석 실습
실전 데이터 분석 167: 커뮤니티 청정도 유지를 위한 기계학습 악성 지수
📊 실습 개요 (Tutorial Overview)
본 실습은 실제 비즈니스 및 학계에서 자주 마주하는 커뮤니티 악성 댓글 오토 필터링 분석를 주제로 다룹니다. 수집된 실제 통계 데이터셋을 바탕으로 Pandas 라이브러리를 통해 결측치를 과학적으로 정제하고, Seaborn 시각화를 통해 다중 요인의 입체적인 상관 경향을 진단합니다.
🛠️ 핵심 분석 실습 역량 (Core Skills)
- 결측치 mean 대치 (`fillna`): 실시간 서버 API 트래픽 폭주 및 로그 저장 지연으로 발생한 악성점수 변수의 빈칸을 안전하게 채웁니다.
- 상관 시너지 데이터 분석 및 해석: 단변수 빈도 분포 점검 및 독립/종속 다변수 결합 시각화를 통해 실무 가설을 증명합니다.
🧐 실무 도메인 지식 가이드 (Domain Knowledge Guide)
🎬 미디어 및 스트리밍 (Media & Entertainment) 미디어 및 엔터테인먼트 분석은 음원/영상 시청 패턴, 유저 이탈, 콘텐츠 피드 도달율을 극대화하기 위한 행동 정량화 분야입니다.
- 추천 알고리즘 스킵율: 사용자가 재생 중 스킵 버튼을 누르는 순간의 음원 특징점을 포착하여 추천 취향 유사성 스코어를 보정합니다.
- 낚시성 콘텐츠 필터링: 뉴스 헤드라인 키워드와 독자 실제 체류시간 분산을 상관하여 체리피커 유저 행태를 차단합니다.
- 앱 마켓 피드백(Rating): 릴리즈 버전 변경 전후의 마일스톤 별점 분포와 감성 감정을 융합 평가하여 조기 업데이트 버그를 디버깅합니다.
Step 1: 데이터 불러오기 및 기본 정보 확인 (Data Load)
제공된 CSV 파일을 분석 컴퓨터로 불러와 로드하고, 컬럼의 타입 및 데이터 구조를 확인합니다.
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import seaborn as sns
# 한글 폰트 설정
import koreanize_matplotlib
sns.set_theme(style="whitegrid")
# 데이터 로드
df = pd.read_csv('./online_forum_moderation.csv')
print(df.info())
print(df.head())
💻 [실행 결과]
<class 'pandas.DataFrame'> RangeIndex: 1000 entries, 0 to 999 Data columns (total 6 columns): # Column Non-Null Count Dtype --- ------ -------------- ----- 0 CommentID 1000 non-null int64 1 ToxicityScore_Percent 985 non-null float64 2 ReportCount 1000 non-null float64 3 ModeratorIntervened 1000 non-null int64 4 CommentLengthChars 1000 non-null float64 5 UserWarningIssued 1000 non-null int64 dtypes: float64(3), int64(3) memory usage: 47.0 KB None CommentID ToxicityScore_Percent ... CommentLengthChars UserWarningIssued 0 1670001 25.6 ... 142.6 1 1 1670002 32.0 ... 132.8 0 2 1670003 64.7 ... 136.1 1 3 1670004 45.0 ... 77.0 0 4 1670005 52.6 ... 70.8 1 [5 rows x 6 columns]
RangeIndex: 1000 entries, 0 to 999
Data columns (total 6 columns):
# Column Non-Null Count Dtype
— —— ————– —–
0 CommentID 1000 non-null int64
1 ToxicityScore_Percent 985 non-null float64
2 ReportCount 1000 non-null float64
3 ModeratorIntervened 1000 non-null int64
4 CommentLengthChars 1000 non-null float64
5 UserWarningIssued 1000 non-null int64
dtypes: float64(3), int64(3)
memory usage: 47.0 KB
CommentID ToxicityScore_Percent ReportCount ModeratorIntervened CommentLengthChars UserWarningIssued 0 1670001 25.6 83.5 1 142.6 1 1 1670002 32.0 99.6 1 132.8 0 2 1670003 64.7 72.1 0 136.1 1 3 1670004 45.0 63.6 0 77.0 0 4 1670005 52.6 122.0 0 70.8 1 ```
Step 2: 결측치 및 데이터 정제 (Data Cleaning)
수집 과정에서 빈칸으로 기록된 결측값(NaN)의 존재 여부를 진단하고, 데이터 도메인 성격에 부합하는 통계 수치 대입 기법으로 정제합니다.
# 1. 컬럼별 결측치 개수 확인
print("--- 정제 전 결측치 확인 ---")
print(df.isnull().sum())
# 2. 결측치 전처리 및 대치 수행
mean_val = df['ToxicityScore_Percent'].mean().round(1)
df['ToxicityScore_Percent'] = df['ToxicityScore_Percent'].fillna(mean_val)
print(df.isnull().sum())
💻 [실행 결과]
--- 정제 전 결측치 확인 --- CommentID 0 ToxicityScore_Percent 15 ReportCount 0 ModeratorIntervened 0 CommentLengthChars 0 UserWarningIssued 0 dtype: int64 CommentID 0 ToxicityScore_Percent 0 ReportCount 0 ModeratorIntervened 0 CommentLengthChars 0 UserWarningIssued 0 dtype: int64
ToxicityScore_Percent 15 ReportCount 0 ModeratorIntervened 0 CommentLengthChars 0 UserWarningIssued 0
— 정제 후 결측치 확인 — CommentID 0 ToxicityScore_Percent 0 ReportCount 0 ModeratorIntervened 0 CommentLengthChars 0 UserWarningIssued 0 ```
💡 분석가의 통찰 (Analyst’s Insight)
- 평균 대입 적용의 비즈니스 및 통계적 근거: 악성점수 지표는 평시 상태에서 정규분포 중심에 수렴하므로, 누락된 값을 피실험자 및 이용자 평균값으로 메워 왜곡을 최소화합니다.
Step 3: 단변수 분포 분석 (Univariate EDA)
가장 먼저 핵심 변수가 전체 데이터에서 어떤 빈도와 분포를 가졌는지 단일 변수 시각화를 통해 파악해 봅니다.
plt.figure(figsize=(8, 5))
# 단변수 분석 그래프 생성
sns.histplot(data=df, x='ReportCount', kde=True, color='teal')
plt.title('커뮤니티 악성 댓글 오토 필터링 분석 빈도 분포', fontsize=14, fontweight='bold')
plt.show()
💻 [실행 결과]
💡 시각화 차트 읽는 법 & 인사이트
- 밀도 집중 대역 확인: ReportCount 변수의 종형 곡선 또는 비대칭 스케일을 관찰하여, 다수가 모여 있는 주류 대역과 이상 극단치 구간을 감별합니다.
Step 4: 다변수 상관관계 및 이상치 분석 (Multivariate EDA)
두 개 이상의 변수를 동시에 결합하여, 조건에 따른 수치 차이나 독립 변수와 종속 변수 간의 통계적 경향을 분석합니다.
plt.figure(figsize=(9, 6))
# 다변수 분석 그래프 생성
sns.scatterplot(data=df, x='ToxicityScore_Percent', y='ReportCount', hue='ModeratorIntervened', palette='coolwarm', alpha=0.8)
plt.title('ToxicityScore_Percent와 ReportCount 상관성 및 ModeratorIntervened 대조', fontsize=14, fontweight='bold')
plt.show()
💻 [실행 결과]
💡 코드 딥다이브 & 비즈니스 통찰 (Analyst’s Insight)
- 분산 경향과 위험 타겟 집중 진단: X축과 Y축 간의 선형 양/음의 관계선 흐름 속에서, ModeratorIntervened 색상 점들이 특정한 영역에 쏠려 있는지 판독하여 다중 요인의 연계 시너지를 증명합니다.
Step 5: 통계적 직관과 해석 (Statistical Logic)
💡 [분석 도메인 통계 지식 한눈에 보기] 본 실습은 커뮤니티 악성 댓글 오토 필터링 분석를 판독하기 위한 의사결정 프레임워크를 제공합니다.
- 단순 평균(Mean) 비교의 함정을 방어하기 위해 집단 간의 표준편차(Standard Deviation) 분산을 대조하고, 다변수 회귀 검증을 통해 우연의 일치가 아님을 유의 수준(p-value)을 통해 입증하는 의사결정 습관이 중요합니다.
🎯 30분 강의 마무리 및 심화 과제
오늘 우리는 실전 데이터셋을 분석하여 판다스로 데이터를 가공 및 정제하고, 시각화를 활용하여 핵심 변수 간의 통계적 유의성을 검증했습니다. 데이터 속에서 숨겨진 패턴을 올바른 시각으로 탐색하는 능력이 데이터 사이언티스트의 가장 강력한 무기입니다.
📝 심화 과제 (Advanced Challenge)
- 결측치를 채우기 전과 후의 통계량 변화 대조: 전후의 평균값 및 분산 격차를 코드로 구해 설명력을 확인하세요.
- 타겟 변수 기준 그룹화 비교: 타겟 레이블값 유무에 따른 핵심 피처들의 중간값 테이블 요약을 출력해 분석해 보세요.