Word2Vec与SVM结合：电商评论情感分析全流程解析

简介：面向机器学习与自然语言处理课程设计场景，这套基于Word2Vec+SVM的电商评论情感分析完整实现，适合高校学生、初学者快速完成实验项目或入门文本分类任务。内容覆盖评论数据清洗、停用词过滤、Word2Vec词向量训练、SVM模型训练与评估等环节，并附带可直接运行的Python脚本和已训练好的模型文件。资源共18个文件，主要包括6个CSV格式的原始与处理后数据集、5个功能划分清晰的Python脚本、4个npy词向量/标签数组文件、1个停用词表、1个README说明文档以及1个pkl格式的SVM模型，整体大小28.14MB，可快速部署复现。目前已有353人学习/下载，适合在课程设计或实战练习中参照使用。通过阅读代码与调整参数，还能深入理解Word2Vec的语义表示能力与SVM的文本分类原理，为后续开展更复杂的情感分析或舆情监控项目打下基础。

1. Word2Vec+SVM 情感分析这条路线，为什么做电商评论反而最省心

把电商评论做成情感分析，最容易踩的坑是一上来就上 BERT：数据不到一万条，机器没有 GPU，学习率没调明白，训练一整晚，准确率还不如一个朴素贝叶斯。Word2Vec+SVM 这套组合，恰恰是在“数据量小、要求可解释、要能够快速交付”的场景里最稳的路线。先让 Word2Vec 在全部评论上学词向量，把离散的文本变成稠密向量，再交给 SVM 做正负面判定，原理简单、训练快、效果可控。

这套方案适合三类人：课程设计或毕设要交一个“能跑、能复现、讲得清原理”的完整系统；刚接触 NLP 想搞懂词向量和分类器如何衔接；以及需要一个短文本情感分类基线用于业务快速验证。下面的内容按照预处理、Word2Vec 训练、SVM 调参、完整可运行代码、排错技巧的顺序展开，所有代码都按可直接运行的方式给出，只需要把输入数据换成你自己的 CSV。

2. 把评论变成词向量：Word2Vec 训练前的预处理与参数取舍

2.1 情感分析里为什么不用 TF-IDF，而是选 Word2Vec 词嵌入

电商评论和新闻、论文不同，它短、口语化严重、包含大量网络热词和夸张表达。“绝绝子”“yyds”“666”这类词在传统 TF-IDF 表示下是孤立的离散符号，彼此没有任何语义关联。Word2Vec 的核心思想源于分布假说：一个词的含义由它周围的词决定。“便宜”“实惠”“划算”经常出现在相似的上下文里，学到的词向量距离就近；“差劲”“劣质”“退货”聚集在另一侧。情感分类要利用的恰恰是这种聚簇特性。

TF-IDF 还有另一个问题：矩阵极度稀疏。一条评论平均十几个词，词典规模普遍在几千到几万，每个样本只有一个长度为词表大小的稀疏向量，里面大量维度是 0。SVM 虽然能处理稀疏数据，但维度太高时训练耗时上升、调参困难。Word2Vec 把维度压缩到 128 或 200，训练和预测都快很多。更重要的是，同义词不再被当成完全不同的特征，这在口语化的电商场景里价值极大。

用 gensim 训练好的词向量不需要自己实现网络结构。标题里提到的“用 python 从零实现一个 word2vec 词嵌入模型”是很好的学习路径，但做课程设计可以直接用 gensim，它内部实现了 CBOW 和 Skip-gram 两种结构，参数封装完整，几行代码就能训练。

2.2 预处理与分词：不干净的评论会让词向量学偏

训练 Word2Vec 前最容易被忽略的是数据清洗。评论里混杂着 HTML 标签、表情符号、多余空格、大小写英文、重复标点。如果不处理，分词后会出现大量类似“【”“】”“...”的噪声词，它们会占据词表中的位置，把高质量词向量稀释掉。

下面这段是完整的清洗和分词函数，注意停用词表里不能包含否定词：

import re import pandas as pd import jieba # 加载停用词表，每行一个词 stopwords = set() with open('stopwords.txt', encoding='utf-8') as f: for line in f: stopwords.add(line.strip()) # 否定词必须保留，否则"不好吃"被拆开后语义会丢失 NEG_WORDS = {'不', '没', '别', '无', '莫', '非'} def clean_text(text): if not isinstance(text, str): return '' # 只保留中文、英文字母和数字，其余替换为空格 text = re.sub(r'[^\u4e00-\u9fa5a-zA-Z0-9]', ' ', text) # 合并多余空格 return re.sub(r'\s+', ' ', text).lower().strip() def tokenize(text): tokens = jieba.lcut(clean_text(text)) # 过滤空白词和停用词，但保留否定词 return [w for w in tokens if w.strip() and (w in NEG_WORDS or w not in stopwords)]

清洗时把表情符号一并替换成空格是保守做法。表情本身确实携带情感倾向，但在课程设计量级的数据里，表情的分布往往严重失衡，保留它会让模型把“有表情”本身当成强特征。先用正则去掉，把情感判断完全交给文本，效果更容易解释。分词使用 jieba 的lcut，直接返回列表，比cut返回生成器更适合后续操作。英文品牌词如“Apple”“ROG”转为小写，能避免同一个词的不同大小写形式被当成两个词。

2.3 训练 Word2Vec 的最小代码与参数选择

预处理完成后，训练词向量只需要几行 gensim 代码。假设已经有一份包含comment列的 DataFrame，tokens列是分词结果：

from gensim.models import Word2Vec # 传入的语料是"分词后句子"的列表 sentences = df['tokens'].tolist() w2v = Word2Vec( sentences, vector_size=128, # 词向量维度 window=5, # 上下文窗口大小 min_count=2, # 词频低于2的词不训练 sg=1, # 1使用Skip-gram，0使用CBOW epochs=10, # 迭代轮数 workers=4 # 并行线程数 ) w2v.save('w2v.model')

这几个参数直接影响词向量质量，课程设计答辩时也常被追问，建议按下面的表去理解而不是死记数值。

训练完成后，不要急着接分类器，先人工验证词向量的质量。一个快速检查方式是看最相似词：

# 检查词向量是否学到了语义 for w in ['物流', '价格', '退', '好']: similar = w2v.wv.most_similar(w, topn=5) print(w, [s[0] for s in similar])

正常输出里，“物流”的近邻应该出现“顺丰”“配送”“快递”，“价格”附近应该出现“便宜”“性价比”“贵”。如果最近邻全是标点、数字或无关词，说明预处理没做干净，先回头检查清洗逻辑，不要急着调分类器。这一步卡住，后面 SVM 再调参也救不回来。

2.4 把一条评论变成 128 维句子向量

Word2Vec 输出的每个词是一个有效向量的形状是(128,)，而 SVM 的一条样本要求是一个固定长度的向量。不能把词向量矩阵直接展开：评论文本长度不同，直接拼接会导致样本维度不一致，SVC 无法处理。

常见做法是对该评论所有词的词向量取平均，得到一个“句子向量”。这是词嵌入分类里最简单也最稳定的聚合方式：

import numpy as np def sentence_to_vec(tokens, model, dim=128): vecs = [] for w in tokens: if w in model.wv: # 词表外的词直接跳过 vecs.append(model.wv[w]) if not vecs: return np.zeros(dim) # 全部不在词表时返回零向量 return np.mean(vecs, axis=0) # 生成全部样本的特征矩阵 X = np.array([sentence_to_vec(t, w2v) for t in df['tokens']]) y = df['label'].values

提示：不要把 TF-IDF 权重乘到词向量上再平均。电商评论平均只有十几个词，情感词本身频次高，TF-IDF 会把“不好”“差”这类关键短词的权重压低，实测效果往往比纯平均更差。

零向量兜底必须写上。如果一条评论的分词结果全部不在词表里，np.mean会返回nan，SVM 直接报错。返回全零向量意味着这条样本没有任何语义信息，分类器会把它放到边界附近，比程序崩溃好处理得多。最后用np.vstack或np.array转成二维矩阵，形状为(样本数, 128)，SVM 可以直接吃。

3. SVM 作为分类器：核函数、C 与 gamma 的网格搜索

3.1 SVM 处理文本分类的思路：间隔最大化与核函数

SVM 的核心是找一个分类超平面，让两类样本到它的最小距离最大化。距离越远，泛化边界越宽，对新评论的预测越稳。这个思路和神经网络完全不同：神经网络在拟合数据分布，SVM 在寻找几何边界。

电商评论经过 Word2Vec 平均后，特征是 128 维稠密向量，不是文本原始的稀疏高维空间。在这个空间里，正面评论和负面评论通常呈两个团状分布，存在明显的间隔区域，这正是 SVM 擅长的形态。如果两类样本的边界是圆形的，线性超平面切不开，就需要核函数。RBF 核通过把样本映射到高维空间，让原本圆形的边界变成线性可分。代价是引入了gamma参数，控制每个样本的影响半径，gamma越大，边界越弯曲，越容易过拟合。

在情感分析这种任务上，我的常见做法是先跑 RBF 核网格搜索，再和线性核对比。2000 到 20000 条评论量级下，神经网络需要来回调学习率、层数、dropout，SVM 只需要调两个参数，训练时间从小时级降到秒级，这是它在这个场景里最大的工程优势。

3.2 训练集划分与类别失衡处理

训练 SVM 之前先划分数据。需要注意stratify参数，让训练集和测试集保持和原始数据相同的正负比例：

from sklearn.model_selection import train_test_split X_train, X_test, y_train, y_test = train_test_split( X, y, test_size=0.2, random_state=42, stratify=y # 保证划分后类别比例一致 )

train_test_split默认会随机打乱数据。在情感分析里，评论数据通常是按时间采集的，如果训练集是早期评论、测试集是近期评论，会出现词表漂移问题：新出的网络热词在训练集里根本没有。加上stratify只能保证比例一致，不能解决时间分布问题。稳妥的做法是先把数据随机打乱再划分，让两个集合的时间分布接近。

电商评论的正负比例经常失衡，好评占 80% 以上很常见。直接用原始数据训练，SVM 会倾向于把所有样本都预测成好评，因为这样整体准确率已经很高。处理方式有两种：降采样和class_weight。在训练数据量大于 5000 时，优先用class_weight='balanced'，它会让 SVM 对少数类的误分类施加更大惩罚代价，改动最小且不会丢失数据：

from sklearn.svm import SVC model = SVC( kernel='rbf', class_weight='balanced', # 自动调整类别权重 random_state=42 )

如果正负比例超过 5:1，单纯靠class_weight不够，需要对多数类做降采样。下面是常用的一段操作：

df_pos = df[df['label'] == 1] df_neg = df[df['label'] == 0] # 把多数类降采样到少数类的2倍 df_neg_sample = df_neg.sample(n=min(len(df_neg), len(df_pos) * 2), random_state=42) df_balanced = pd.concat([df_pos, df_neg_sample])

降采样只作用于训练集，测试集要保留真实分布，否则评估指标会虚高。这份降采样后的 DataFrame 需要重新走一遍分词和句向量的生成流程。

3.3 GridSearchCV 搜索 C 和 gamma

SVM 在 RBF 核下最值得调的两个参数是C和gamma。C是误分类惩罚系数，越大越容易对噪声样本敏感，越小边界越平滑。gamma决定 RBF 核的影响范围，越大每个样本的影响范围越小，边界越复杂。两者单独设再组合调，用GridSearchCV一次性跑完：

from sklearn.model_selection import GridSearchCV param_grid = { 'C': [0.1, 1, 10, 100], 'gamma': ['scale', 0.01, 0.1, 1] } grid = GridSearchCV( SVC(kernel='rbf', class_weight='balanced', random_state=42), param_grid, cv=5, # 5折交叉验证 scoring='f1', # 用 f1 而不是 accuracy n_jobs=-1 # 使用所有CPU核心 ) grid.fit(X_train, y_train) print("Best params:", grid.best_params_) print("Best CV score:", grid.best_score_)

参数选择说明如下：

为什么不用准确率而用 F1？电商评论里多数类是好评，一个“全都预测成好评”的模型准确率也可能有 80%，但差评全部漏掉，业务上完全不可用。scoring='f1'对正负两类的精确率和召回率取调和平均，少数类差评的错判会在分数里明显体现出来。

gamma='scale'是 scikit-learn 的默认值，它根据特征数量自动计算一个初始值，适合作为网格搜索的起点。如果最优参数出现在搜索边界，比如C=100恰好最好，说明边界外可能还有更好取值，把范围扩到 1000 再跑一轮。

3.4 训练结果有没有过拟合：看支持向量数量

GridSearchCV 跑完，除了看分数，还应该看一个容易被忽略的指标：支持向量的数量。只包含最少样本确定边界的模型泛化能力最强；如果支持向量数量接近训练样本数，说明分类边界被画得过于复杂，模型把所有样本都当成了支持边界，大概率过拟合。

best_svc = grid.best_estimator_ # 查看支持向量的数量和占比 n_sv = best_svc.support_.shape[0] print(f"Support vectors: {n_sv} / {X_train.shape[0]} = {n_sv / X_train.shape[0]:.2%}")

当这个占比高于 60% 时，优先把C调小到 1 以下，或者把gamma固定到scale，让决策边界更平滑。反之，如果占比低于 10%，说明边界过于简单，可以适当增大C或gamma以捕获更多模式。这个比例没有绝对好坏，但它是判断 SVM 训练状态最直观的信号。

还可以用decision_function查看分类置信度。SVM 输出的不是概率，而是样本到超平面的距离，正负号决定类别，绝对值大小决定置信程度：

probas = best_svc.decision_function(X_test[:10])

当新评论的decision_function值在 0 附近时，说明模型非常不确定，前后改一个参数结果就可能翻转。这类样本在商品评论里往往是“产品还行，但客服态度太差”这类混合情感语句，二分类模型天然处理不好。了解这一点，避免上线后在边界样本上纠结。

4. 完整可运行的情感分析 Pipeline：从 CSV 到预测一条新评论

4.1 一个可以一次跑通的代码骨架

前面几章的函数分散在各节里，这里把它们组合成一个main流程。用到的输入文件是一个两列的 CSV：comment存评论文本，label存标签，0 表示负向，1 表示正向。如果手头没有现成数据，可以用下面代码生成一个最小示例：

import pandas as pd df_demo = pd.DataFrame([ {'comment': '快递很快，包装完好，下次还会买', 'label': 1}, {'comment': '质量太差了，用两天就坏了，退货', 'label': 0}, {'comment': '客服态度很好，问题解决了', 'label': 1}, ]) df_demo.to_csv('comments_demo.csv', index=False)

完整流程的核心骨架如下：

import re import joblib import numpy as np import pandas as pd import jieba from gensim.models import Word2Vec from sklearn.svm import SVC from sklearn.model_selection import train_test_split, GridSearchCV from sklearn.metrics import classification_report, confusion_matrix # 1. 加载数据 df = pd.read_csv('comments_demo.csv') # 2. 清洗和分词，代码见 2.2 节 df['tokens'] = df['comment'].apply(tokenize) # 3. 训练 Word2Vec w2v = Word2Vec( df['tokens'].tolist(), vector_size=128, window=5, min_count=2, sg=1, epochs=10 ) # 4. 生成句向量特征 X = np.array([sentence_to_vec(t, w2v) for t in df['tokens']]) y = df['label'].values # 5. 划分训练测试集 X_train, X_test, y_train, y_test = train_test_split( X, y, test_size=0.2, random_state=42, stratify=y ) # 6. SVM 网格搜索 grid = GridSearchCV( SVC(kernel='rbf', class_weight='balanced', random_state=42), {'C': [0.1, 1, 10], 'gamma': ['scale', 0.01, 0.1]}, cv=5, scoring='f1', n_jobs=-1 ) grid.fit(X_train, y_train)

这份代码里tokenize和sentence_to_vec直接复用第二章定义的函数。执行顺序不能乱：先训练词向量再生成句向量，否则sentence_to_vec里model.wv还没有建立。演示数据只有三条，网格搜索里stratify=y会因为某些类别只有一条样本而报警，这是正常的，真实数据量超过几百条后问题消失。

4.2 标签编码与正负样本不平衡的处理

很多公开评论数据的标签是“好评”“差评”字符串，先转换成数值：

df['label'] = df['label'].map({'好评': 1, '差评': 0}).astype(int)

如果原始数据里有 3 星评价之类的中间档，先做映射归一：1 星和 2 星归为负向，4 星和 5 星归为正向，3 星直接丢弃。三星评论是典型的混合情感样本，强行归入任何一类都会成为噪声，会拉低 Word2Vec 语料的质量，丢弃比硬分类更合理。

处理完标签后先看分布比例：

print(df['label'].value_counts(normalize=True))

正负比在 4:1 以内，class_weight='balanced'足够。超过 4:1，对训练集做降采样。降采样的代码在 3.2 节已经给过，采样后必须重新执行从tokenize到X的完整流程，因为样本行数变了。测试集绝对不做任何采样，它的价值就是模拟真实环境的数据分布。

4.3 用准确率、F1 和混淆矩阵评估情感分类

评估代码非常简单，但每一行输出都要能解释：

y_pred = grid.predict(X_test) # 分类报告：精确率、召回率、F1 print(classification_report(y_test, y_pred, target_names=['负向', '正向'])) # 混淆矩阵 tn, fp, fn, tp = confusion_matrix(y_test, y_pred).ravel() print(f"TN={tn}, FP={fp}, FN={fn}, TP={tp}")

classification_report里的precision表示预测为正向的样本里有多少确实为正向，recall表示真实正向的样本里被找出来多少。在电商场景里，严格说要重点看负向（差评）的召回率：漏掉一个差评，意味着一个不满意的用户没被发现，其负面影响远大于把一个好评误判为差评。混淆矩阵的四个格子直接对应这个逻辑：FN 是第一优先要压低的数字。

如果差评召回率明显低于好评，说明多数类还是主导了训练过程，回去检查class_weight='balanced'有没有生效，或者降采样是否只应用了训练集。

4.4 保存模型并用新评论测试

模型训练完成后，joblib可以把词向量和 SVM 打包成一个字典持久化到磁盘：

pack = { 'w2v': w2v, 'svm': grid.best_estimator_, 'dim': 128 } joblib.dump(pack, 'sentiment_model.pkl') # 加载并预测 def predict_sentiment(text, model_pack): tokens = tokenize(text) vecs = [model_pack['w2v'].wv[w] for w in tokens if w in model_pack['w2v'].wv] if not vecs: return 0 # 全部词表外，保守返回负向 vec = np.mean(vecs, axis=0).reshape(1, -1) pred = model_pack['svm'].predict(vec)[0] return int(pred) pack = joblib.load('sentiment_model.pkl') print(predict_sentiment('包装简陋但是东西没坏', pack))

reshape(1, -1)是把一维的 128 维向量变成(1, 128)的二维矩阵，因为 scikit-learn 的predict方法要求输入是二维的。返回 0 作为兜底是一种保守策略：当新评论的所有词都不在词表里时，模型没有任何证据判断它倾向正面，按负向处理更适合客服介入。如果这类词表外评论占比超过 5%，说明训练语料覆盖不够，正确做法是收集更多数据重训 Word2Vec，而不是去调 SVM 参数。

5. 提升 Word2Vec+SVM 效果：否定词、交叉验证与基线对比

5.1 否定词拼接：情感分类里最容易漏的特征

Word2Vec 的平均池化有一个天然缺陷：否定词会被反向抵消。“好吃”的词向量在正面区域，“不”的向量是中性的，两者平均后落在边界附近，情感倾向不明显。分词阶段保留否定词还不够，更有效的做法是在分词后把“不”和后面的形容词拼接成一个新词：

def attach_negation(tokens): out = [] i = 0 while i < len(tokens): if tokens[i] in NEG_WORDS and i + 1 < len(tokens): out.append(tokens[i] + '_' + tokens[i+1]) i += 2 else: out.append(tokens[i]) i += 1 return out # 在生成句向量之前使用 df['tokens'] = df['tokens'].apply(attach_negation)

“不好吃”“不划算”“不推荐”拼接成不_好吃、不_划算、不_推荐后，会在 Word2Vec 里被当成独立词训练，它们的向量会聚集在负面区域，情感判别力大幅提升。加了这个步骤后，“不是特别满意”这类句子也不会把“满意”的正面信号完全保留下来。

5.2 用 5 折交叉验证看结果稳不稳

课程设计答辩时，单次测试集的准确率说服力不足，换个随机种子结果可能相差两三个百分点。用 5 折交叉验证报告均值和标准差，是证明模型稳定性的标准做法：

from sklearn.model_selection import cross_val_score scores = cross_val_score( grid.best_estimator_, X, y, cv=5, scoring='f1' ) print(f"5-Fold F1: {scores.mean():.3f} ± {scores.std():.3f}")

标准差大于 0.03 说明模型对数据划分敏感，可能是某些类别样本量太少或存在离群评论。先把离群长度过短的评论过滤掉，或者增加数据量，再去追求更高的平均分。

5.3 用两个基线证明模型提升来自词向量

为了避免被质疑“换汤不换药”，设置两个强基线做对照：TF-IDF + 朴素贝叶斯和 TF-IDF + 线性 SVM。它们与 Word2Vec + SVM 的唯一差别是特征表示，分类器和数据完全一致：

from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.naive_bayes import MultinomialNB from sklearn.svm import LinearSVC tfidf = TfidfVectorizer(tokenizer=tokenize, max_features=5000) X_tf = tfidf.fit_transform(df['comment'])

如果 Word2Vec + SVM 的 F1 不低于 TF-IDF 两个基线，说明当前数据集上词向量没有带来增益，问题大概率出在 Word2Vec 训练参数或者预处理上，优先回头调window和min_count，而不是继续调 SVM。这个对比结果放在课程设计报告里，能清楚证明每个环节都有它存在的意义。

本文还有配套的精品资源，点击获取