164. 뉴스 기사 낚시성 헤드라인과 독자 체류 실습
실전 데이터 분석 164: 기사 어휘 극성 지수와 방문 광고 노출 시간 매핑
📊 실습 개요 (Tutorial Overview)
본 실습은 실제 비즈니스 및 학계에서 자주 마주하는 뉴스 기사 낚시성 헤드라인과 독자 체류를 주제로 다룹니다. 수집된 실제 통계 데이터셋을 바탕으로 Pandas 라이브러리를 통해 결측치를 과학적으로 정제하고, Seaborn 시각화를 통해 다중 요인의 입체적인 상관 경향을 진단합니다.
🛠️ 핵심 분석 실습 역량 (Core Skills)
- 결측치 median 대치 (`fillna`): 실시간 서버 API 트래픽 폭주 및 로그 저장 지연으로 발생한 체류시간 변수의 빈칸을 안전하게 채웁니다.
- 상관 시너지 데이터 분석 및 해석: 단변수 빈도 분포 점검 및 독립/종속 다변수 결합 시각화를 통해 실무 가설을 증명합니다.
🧐 실무 도메인 지식 가이드 (Domain Knowledge Guide)
🛍️ 이커머스 및 리테일 (E-commerce & Retail) 이커머스와 리테일 분석은 고객의 라이프 사이클(CLV), 구매 전환 여정, 이탈(Churn) 방지 및 상품 가격 탄력성을 규명하여 매출 성장을 이끄는 분야입니다.
- 고객 평생 가치(CLV): 신규 유입 단가 대비 고객 한 명이 장기적으로 기여하는 누적 가치 분석을 통해 마케팅 효율성을 판정합니다.
- 장바구니 포기(Abandonment) 및 이탈: 이탈 직전 행동 로그(예: 가격 비교 빈도, 핫딜 대기 시간) 분석으로 맞춤형 쿠폰 처방 타겟을 고릅니다.
- 가격 탄력성(Elasticity): 가격의 미세 조정에 따라 판매 수량이 민감하게 변화하는 통계 패턴을 파악하여 적정 할인율을 제안합니다.
Step 1: 데이터 불러오기 및 기본 정보 확인 (Data Load)
제공된 CSV 파일을 분석 컴퓨터로 불러와 로드하고, 컬럼의 타입 및 데이터 구조를 확인합니다.
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import seaborn as sns
# 한글 폰트 설정
import koreanize_matplotlib
sns.set_theme(style="whitegrid")
# 데이터 로드
df = pd.read_csv('./news_clickbait_engagement.csv')
print(df.info())
print(df.head())
💻 [실행 결과]
<class 'pandas.DataFrame'> RangeIndex: 1000 entries, 0 to 999 Data columns (total 6 columns): # Column Non-Null Count Dtype --- ------ -------------- ----- 0 ArticleID 1000 non-null int64 1 SensationalismScore 1000 non-null float64 2 AdDensity_Percent 1000 non-null float64 3 ReaderDwellTimeSeconds 985 non-null float64 4 ShareCount 1000 non-null float64 5 IsClickbait 1000 non-null float64 dtypes: float64(5), int64(1) memory usage: 47.0 KB None ArticleID SensationalismScore ... ShareCount IsClickbait 0 1640001 5.1 ... 63.3 99.9 1 1640002 5.7 ... 116.2 88.5 2 1640003 8.4 ... 161.9 86.6 3 1640004 6.4 ... 104.2 78.0 4 1640005 10.0 ... 101.7 84.2 [5 rows x 6 columns]
RangeIndex: 1000 entries, 0 to 999
Data columns (total 6 columns):
# Column Non-Null Count Dtype
— —— ————– —–
0 ArticleID 1000 non-null int64
1 SensationalismScore 1000 non-null float64
2 AdDensity_Percent 1000 non-null float64
3 ReaderDwellTimeSeconds 985 non-null float64
4 ShareCount 1000 non-null float64
5 IsClickbait 1000 non-null float64
dtypes: float64(5), int64(1)
memory usage: 47.0 KB
ArticleID SensationalismScore AdDensity_Percent ReaderDwellTimeSeconds ShareCount IsClickbait 0 1640001 5.1 48.2 1.0 63.3 99.9 1 1640002 5.7 69.0 8.6 116.2 88.5 2 1640003 8.4 41.4 11.3 161.9 86.6 3 1640004 6.4 44.1 7.5 104.2 78.0 4 1640005 10.0 52.2 47.2 101.7 84.2 ```
Step 2: 결측치 및 데이터 정제 (Data Cleaning)
수집 과정에서 빈칸으로 기록된 결측값(NaN)의 존재 여부를 진단하고, 데이터 도메인 성격에 부합하는 통계 수치 대입 기법으로 정제합니다.
# 1. 컬럼별 결측치 개수 확인
print("--- 정제 전 결측치 확인 ---")
print(df.isnull().sum())
# 2. 결측치 전처리 및 대치 수행
median_val = df['ReaderDwellTimeSeconds'].median().round(1)
df['ReaderDwellTimeSeconds'] = df['ReaderDwellTimeSeconds'].fillna(median_val)
print(df.isnull().sum())
💻 [실행 결과]
--- 정제 전 결측치 확인 --- ArticleID 0 SensationalismScore 0 AdDensity_Percent 0 ReaderDwellTimeSeconds 15 ShareCount 0 IsClickbait 0 dtype: int64 ArticleID 0 SensationalismScore 0 AdDensity_Percent 0 ReaderDwellTimeSeconds 0 ShareCount 0 IsClickbait 0 dtype: int64
SensationalismScore 0 AdDensity_Percent 0 ReaderDwellTimeSeconds 15 ShareCount 0 IsClickbait 0
— 정제 후 결측치 확인 — ArticleID 0 SensationalismScore 0 AdDensity_Percent 0 ReaderDwellTimeSeconds 0 ShareCount 0 IsClickbait 0 ```
💡 분석가의 통찰 (Analyst’s Insight)
- 중앙값 대입 적용의 비즈니스 및 통계적 근거: 체류시간 정보는 긴 꼬리 분포나 일부 특이 이상치에 의해 평균이 한쪽으로 치우치기 쉬우므로 통계적 안정성이 강한 중앙값으로 결측을 대치합니다.
Step 3: 단변수 분포 분석 (Univariate EDA)
가장 먼저 핵심 변수가 전체 데이터에서 어떤 빈도와 분포를 가졌는지 단일 변수 시각화를 통해 파악해 봅니다.
plt.figure(figsize=(8, 5))
# 단변수 분석 그래프 생성
sns.histplot(data=df, x='ReaderDwellTimeSeconds', kde=True, color='teal')
plt.title('뉴스 기사 낚시성 헤드라인과 독자 체류 빈도 분포', fontsize=14, fontweight='bold')
plt.show()
💻 [실행 결과]
💡 시각화 차트 읽는 법 & 인사이트
- 밀도 집중 대역 확인: ReaderDwellTimeSeconds 변수의 종형 곡선 또는 비대칭 스케일을 관찰하여, 다수가 모여 있는 주류 대역과 이상 극단치 구간을 감별합니다.
Step 4: 다변수 상관관계 및 이상치 분석 (Multivariate EDA)
두 개 이상의 변수를 동시에 결합하여, 조건에 따른 수치 차이나 독립 변수와 종속 변수 간의 통계적 경향을 분석합니다.
plt.figure(figsize=(9, 6))
# 다변수 분석 그래프 생성
sns.scatterplot(data=df, x='SensationalismScore', y='ReaderDwellTimeSeconds', hue='IsClickbait', palette='coolwarm', alpha=0.8)
plt.title('SensationalismScore와 ReaderDwellTimeSeconds 상관성 및 IsClickbait 대조', fontsize=14, fontweight='bold')
plt.show()
💻 [실행 결과]
💡 코드 딥다이브 & 비즈니스 통찰 (Analyst’s Insight)
- 분산 경향과 위험 타겟 집중 진단: X축과 Y축 간의 선형 양/음의 관계선 흐름 속에서, IsClickbait 색상 점들이 특정한 영역에 쏠려 있는지 판독하여 다중 요인의 연계 시너지를 증명합니다.
Step 5: 통계적 직관과 해석 (Statistical Logic)
💡 [분석 도메인 통계 지식 한눈에 보기] 본 실습은 뉴스 기사 낚시성 헤드라인과 독자 체류를 판독하기 위한 의사결정 프레임워크를 제공합니다.
- 단순 평균(Mean) 비교의 함정을 방어하기 위해 집단 간의 표준편차(Standard Deviation) 분산을 대조하고, 다변수 회귀 검증을 통해 우연의 일치가 아님을 유의 수준(p-value)을 통해 입증하는 의사결정 습관이 중요합니다.
🎯 30분 강의 마무리 및 심화 과제
오늘 우리는 실전 데이터셋을 분석하여 판다스로 데이터를 가공 및 정제하고, 시각화를 활용하여 핵심 변수 간의 통계적 유의성을 검증했습니다. 데이터 속에서 숨겨진 패턴을 올바른 시각으로 탐색하는 능력이 데이터 사이언티스트의 가장 강력한 무기입니다.
📝 심화 과제 (Advanced Challenge)
- 결측치를 채우기 전과 후의 통계량 변화 대조: 전후의 평균값 및 분산 격차를 코드로 구해 설명력을 확인하세요.
- 타겟 변수 기준 그룹화 비교: 타겟 레이블값 유무에 따른 핵심 피처들의 중간값 테이블 요약을 출력해 분석해 보세요.