朴素贝叶斯垃圾邮件过滤：从特征工程到模型调优全流程解析

简介：一份面向计算机相关专业学生的朴素贝叶斯垃圾邮件过滤实战项目，源码与数据集一并提供，项目经导师指导认可，评审分98分。内容围绕垃圾邮件识别场景，覆盖邮件文本预处理、特征提取、朴素贝叶斯分类器训练与效果评估的完整流程，以Python脚本为主体实现核心功能，同时附带依赖说明文件和内置数据集压缩包，便于快速搭建环境、加载数据并开展实验。资源共6个文件，整体大小15.71MB，结构清晰，既可直接运行验证，也方便按需修改模块进行二次扩展。适用场景覆盖毕业设计、课程设计、期末大作业以及机器学习入门练习，尤其适合计算机科学、数据科学、信息安全等专业学生参考。目前已有200人学习下载，代码经过功能验证，稳定可用，是一份兼顾实战与教学的优质项目，有助于理解朴素贝叶斯算法在文本分类中的典型应用。

1. 朴素贝叶斯算法是垃圾邮件过滤绕不开的基线模型

垃圾邮件分类是文本分类中最经典的入门场景，而朴素贝叶斯算法则是这个场景下公认的基线模型。它不需要GPU、不需要预训练语言模型，只要有标注好的数据集，用纯Python几百行代码就能跑通从训练到预测的完整链路。比这更重要的是它的可解释性：一封邮件被判为垃圾邮件，你可以逐词列出它对后验概率的贡献，这在期末答辩和真实业务排错时都非常有价值。我在实际项目里见过不少团队跳过朴素贝叶斯直接上深度学习，结果因为样本量不足、类别不平衡，效果反而不如一个调好平滑系数的朴素贝叶斯。接下来的内容按“特征工程 → 模型实现 → 评估调优 → 工程化落地”的顺序展开，把垃圾邮件过滤这条链路完整走一遍。

2. 数据准备与特征工程：分词、停用词与词汇表构建

数据决定了模型的上限，这句话在文本分类里体现得尤其明显。垃圾邮件过滤的第一步不是建模，而是把散落的原始文本整理成可计算的数值特征。中文邮件与英文邮件在这一步的差异非常大：英文按空格切词即可，中文必须先分词，分词质量直接决定后面朴素贝叶斯对条件概率的估计是否可靠。数据集里常见的坑也在这一阶段暴露，比如标签不统一、类别严重失衡、正文里混入HTML标签等，都要在做特征之前清理干净。

2.1 数据集的组织方式与标签预处理

期末项目拿到的数据通常有两种组织方式：一种是每个目录对应一个类别，spam/和ham/目录下各放若干封邮件文件；另一种是CSV表格，每行包含label和content两列。前一种适合有人直接给你整理好了邮件原文和附件原文，后一种更常见，因为做数据分析时用pandas读取最方便，也方便做交叉验证。

import pandas as pd df = pd.read_csv('spam_dataset.csv', encoding='utf-8') print(df.head()) print(df['label'].value_counts(normalize=True)) df['label'] = df['label'].map({'spam': 1, 'ham': 0})

读取后先用map把文本标签统一转成0/1数值，value_counts(normalize=True)输出各类别的占比。这一步能立刻暴露出一个问题：如果垃圾邮件占比只有不到8%，那么模型即使把全部邮件都判成正常邮件，准确率也能到92%。后面选评估指标的时候，这个不平衡比例会直接决定你用什么分数来衡量模型，而不是简单看准确率。

2.2 中文分词：为什么必须先切词再入模

英文的最小语义单元是单词，空格天然就是分隔符。中文没有这个概念，“免费领取”四个字如果按单字拆，会变成“免”“费”“领”“取”，各自携带的判别信息被稀释，合在一起才是垃圾邮件的高区分度特征。所以要先用分词工具把句子切成词序列，再用切分结果作为特征。

import jieba def tokenize(text): # jieba.cut 返回生成器，过滤掉长度小于2的词和空白字符 words = [w for w in jieba.cut(text.strip()) if len(w) > 1] return words sample = "恭喜您获得iPhone大奖，点击链接立即领取！" print(tokenize(sample)) # 输出类似：['恭喜', '获得', 'iPhone', '大奖', '点击', '链接', '立即', '领取']

这里有个容易忽略的细节：len(w) > 1会把“车”“房”这类有意义的单字一并过滤掉。在垃圾邮件场景里，单字携带的判别信息非常弱，同时会显著扩大词表规模、稀释每个词的条件概率密度，所以这个取舍是可接受的。真正要当心的是邮件正文里的URL和数字，这类内容建议原样保留或统一替换成占位符，否则同一个链接每次出现的字符串不同，模型永远学不到这个特征。

2.3 停用词过滤与词汇表约束

分词之后通常要过一遍停用词表。垃圾邮件场景不需要维护多精细的停用词表，把“以及”“可以”“我们”“您”“这个”这类高频但无判别力的词去掉即可。注意停用词表必须用和分词结果一致的分隔符读入，否则匹配不上。

stopwords = set() with open('stopwords.txt', encoding='utf-8') as f: for line in f: stopwords.add(line.strip()) def tokenize(text): words = [w for w in jieba.cut(text.strip()) if len(w) > 1] return [w for w in words if w not in stopwords]

分词和过滤都封装在tokenize函数里，后面交给CountVectorizer直接调用。这样做的好处是，所有预处理逻辑集中在一处，期末答辩时可以清楚地讲出“原始数据经过哪几步变成特征矩阵”。

2.4 向量化与训练集测试集划分

分词之后的文本还是带空格的token序列，需要转成数值矩阵。CountVectorizer是这一步最直接的工具，它把每个token映射到一列，统计其在各邮件中的出现次数。

from sklearn.feature_extraction.text import CountVectorizer from sklearn.model_selection import train_test_split vectorizer = CountVectorizer( tokenizer=tokenize, max_features=8000, ) X = vectorizer.fit_transform(df['content']) y = df['label'] X_train, X_test, y_train, y_test = train_test_split( X, y, test_size=0.2, random_state=42, stratify=y ) print(f"词表大小: {len(vectorizer.vocabulary_)}") print(f"训练集维度: {X_train.shape}")

参数说明如下：

• tokenizer=tokenize：CountVectorizer默认用正则按空格切分，传入自定义函数后，每条文本会先走tokenize再进入统计流程。注意自定义tokenizer会覆盖默认的preprocessor和token_pattern，不需要再额外配置。
• max_features=8000：只保留出现频率最高的8000个词。词表压缩后模型更稳定，训练和预测速度更快，也能在答辩时解释成“对特征空间做了约束”。
• test_size=0.2：留出20%做测试集，剩余做训练集。
• stratify=y：按标签比例分层抽样，确保测试集和训练集中垃圾邮件与正常邮件的比例一致。

词汇表构建和向量化是整个流程的地基。特征工程做得粗糙，后面模型再准确率再高的参数也补不回来。完成这一步之后，X_train已经是一个形状为(样本数, 8000)的稀疏矩阵，可以直接喂给分类器了。

3. 从拉普拉斯平滑到对数概率：朴素贝叶斯核心实现

数据准备好之后，接下来的核心问题是：朴素贝叶斯究竟在这个稀疏矩阵上做了什么计算。搞清楚这一步，才能不把MultinomialNB当成黑盒。朴素贝叶斯的核心假设是条件独立，也就是一封邮件中各个词的出现互不影响。这个假设在现实中显然不成立——“中奖”“点击”“链接”这几个词经常一起出现，但正是这种在文本建模中被视为“错误”的假设，让模型在小样本下依然稳健，不容易被共现关系的噪声带偏。

3.1 从贝叶斯公式到对数空间

贝叶斯公式在垃圾邮件场景中的作用，是计算给定一邮件的词项后它是垃圾邮件的后验概率：

P(spam|w) = P(spam) · P(w|spam) / P(w)

在朴素假设下，P(w|spam)被拆成每个词条件概率的连积。但真正实现时不能直接做连积：假设词表有1万个词，每个词的条件概率在1e-4量级，一万个小数的连乘在浮点数下会很快下溢成0，模型彻底失效。所以工程实现必须在对数空间做运算：

log P(spam|w) = log P(spam) + Σ log P(wi|spam) - log P(w)

分母log P(w)对所有类别相同，在比较大小的时候直接省略，不会影响判定结果。这就是标准实现里全部使用log的原因。

3.2 拉普拉斯平滑的作用与参数含义

训练时如果某个词在某类邮件中从未出现，它的条件概率是0。预测时遇到一个训练词表里没出现过的词项，连积直接归零，整封邮件无论其他词多么强烈地指向垃圾，都会被判成正常邮件，这是无法接受的。拉普拉斯平滑给分子加alpha，分母加alpha * vocab_size：

P(wi|spam) = (count(wi, spam) + alpha) / (total_words_spam + alpha * vocab_size)

alpha=1是最经典的拉普拉斯平滑，也叫加一平滑。alpha越大，所有词的条件概率越趋向均匀分布，词频自身的区分力被削弱；alpha越小，词频的原始差异保留得越多，但未知词导致的零概率风险上升。小数据集上通常用alpha=1起步，如果词表很大且样本充足，可以把alpha降到0.1左右试试。

3.3 用sklearn实现训练与预测

直接调用MultinomialNB是最标准也最稳妥的做法：

from sklearn.naive_bayes import MultinomialNB model = MultinomialNB(alpha=1.0, fit_prior=True) model.fit(X_train, y_train) print(f"类先验对数概率: {model.class_log_prior_}") # 格式: [P(ham), P(spam)] 的log值 y_pred = model.predict(X_test)

fit_prior=True表示从训练数据中学习类先验P(spam)，也就是训练集里垃圾邮件的占比。如果你的训练集是精心平衡过两边样本量的，而这个模型要部署在垃圾占比更高的真实环境里，需要把fit_prior设为False或重新采样，否则先验会把预测结果往反方向带偏。

alpha是MultinomialNB最重要的超参数，它控制平滑强度，影响每个词的权重，后期调优主要就是围绕它做网格搜索。

3.4 从零实现一个朴素贝叶斯核心类

为了彻底搞清楚这一节的贝叶斯公式和拉普拉斯平滑到底是怎么落到矩阵运算上的，我在期末项目里写了一个极简版本的核心逻辑。这个版本可以直接对比sklearn结果，也能帮助你回答答辩老师的追问“你有没有看过源码”：

import numpy as np class SimpleNaiveBayes: def __init__(self, alpha=1.0): self.alpha = alpha def fit(self, X, y): n_classes = 2 n_features = X.shape[1] class_counts = np.bincount(y) self.class_log_prior_ = np.log(class_counts / len(y)) feature_counts = np.zeros((n_classes, n_features)) for cls in range(n_classes): feature_counts[cls] = X[y == cls].sum(axis=0) smooth = self.alpha total = feature_counts.sum(axis=1, keepdims=True) self.feature_log_prob_ = np.log( (feature_counts + smooth) / (total + smooth * n_features) ) return self def predict_log_proba(self, X): # X是对数概率矩阵和稀疏特征矩阵的乘积，再加类先验 return X @ self.feature_log_prob_.T + self.class_log_prior_ def predict(self, X): return np.argmax(self.predict_log_proba(X), axis=1)

核心逻辑在predict_log_proba这一行：所有词的log条件概率放在feature_log_prob_矩阵里，X @ self.feature_log_prob_.T计算的是每个样本中非零词项对应log概率的累加，最后加上类先验。这个矩阵乘法等价于了对数空间的条件概率求和，两列分别对应正常邮件和垃圾邮件，argmax取较大值对应的类别作为预测结果。

对比这个实现能清楚看到，线性代数只是把循环累加换成了批量运算，模型本质上还是在做词频统计。

3.4.1 特征矩阵稀疏性的影响

X是以稀疏矩阵存储的，每一行代表一封邮件，非零元素的数量通常只有几十到几百。稀疏矩阵和feature_log_prob_做矩阵乘法时，只计算非零元素对应的列，不会真的对所有8000个词遍历，这是文本分类能在大数据量下保持速度的根本原因。如果在实现时不小心把稀疏矩阵转成稠密矩阵，内存占用会从几十MB膨胀到几GB，这是课堂作业里最常见的内存崩溃原因。

4. 评估与调优：精确率、召回率与平滑系数的平衡

模型训练完毕后，最忌讳的事情是直接看accuracy。垃圾邮件数据天然存在类别不平衡，正常邮件多、垃圾邮件少，一副“全判为正常”的模型也能拿到很高的准确率，却没有任何实用价值。所以评估阶段需要换一套指标，并根据实际场景做参数调整。

4.1 为什么准确率在这里是陷阱

以垃圾邮件占比15%的数据集为例，把全部邮件判为正常邮件，准确率是85%。但垃圾邮件全部漏过，模型等于不存在。真正需要关注的是垃圾邮件这一类别的精确率和召回率。

评估输出用一行代码搞定：

from sklearn.metrics import classification_report report = classification_report(y_test, y_pred, target_names=['ham', 'spam']) print(report)

classification_report会同时输出两类各自的精确率、召回率和F1。看输出时先看spam行的召回率，再看精确率。在工作场景中，垃圾邮件的漏放（FN，垃圾被判成正常）比误杀（FP，正常被判成垃圾）的代价要低一些——宁可多收几封垃圾邮件，也不能把客户的重要邮件吞掉。因此评估时要格外注意spam类的精确率不能降得太低。

4.2 调整决策阈值改变判定倾向

predict默认取后验概率最大的类别。但如果你希望模型“只有在把握较大时才判定为垃圾”，可以通过改阈值实现：

# 获取每封邮件属于spam类的概率 spam_proba = model.predict_proba(X_test)[:, 1] # 把判定阈值提高到0.7 y_pred_threshold = (spam_proba >= 0.7).astype(int)

阈值越高，被判定为垃圾邮件的门槛越高，精确率上升，召回率下降，漏放变多。阈值越低，则反之。建议把0.3、0.5、0.7、0.9分别跑一遍，把所有判定结果放进同一个表格里对比，选一个最契合你的场景容忍度的阈值。这个技巧在答辩时可以明确讲出“通过阈值调节精确率和召回率的trade-off”。

4.3 平滑系数的网格搜索

alpha是MultinomialNB最重要的超参数。调优的直接做法是网格搜索：

from sklearn.model_selection import GridSearchCV param_grid = {'alpha': [0.01, 0.1, 0.5, 1.0, 2.0, 5.0]} gs = GridSearchCV( MultinomialNB(), param_grid, cv=5, scoring='f1', ) gs.fit(X_train, y_train) print(f"最优参数: {gs.best_params_}") print(f"交叉验证最优F1: {gs.best_score_:.4f}")

cv=5表示五折交叉验证，scoring='f1'告诉网格搜索在调参时以F1为优化目标。注意GridSearchCV内部会自行划分训练集和验证集，传入的X_train不需要再额外划分。

4.3.1 小样本下的过拟合迹象

垃圾邮件数据集如果只有几百封邮件，训练集上的指标会非常好看，测试集上却大幅下跌。这种过拟合在用CountVectorizer时尤其明显。如果遇到这个问题，先把max_features降到2000，缩小特征空间的自由度；再看测试集上垃圾邮件类的精确率是否提升，如果提升说明词表过大导致的过拟合是主要矛盾。

4.4 数据泄漏与评估失真的常见陷阱

再补一个很容易被忽视的点：特征向量化必须在训练集和测试集划分之后分别处理，或者在全量数据拟合后做严格拆分。正确做法是fit_transform(X_train)+transform(X_test)，而不是对全量数据一次性fit_transform后再切分。前者让测试集的信息不参与词表构建和平滑统计，后者会让词表“偷看”了测试集，交叉验证的分数虚高，上线后模型实际效果会明显不如预期。

需要更新的正确代码片段：

vectorizer = CountVectorizer(tokenizer=tokenize, max_features=8000) X_train_vec = vectorizer.fit_transform(X_train_text) X_test_vec = vectorizer.transform(X_test_text)

这个顺序问题在期末项目里是答辩时的高频提问点，务必保证代码是按这个顺序组织的。数据泄漏的表现特征很典型：训练和测试的F1都在0.98以上，但拿新数据进行预测时效果很差。如果遇到这种反差，八成是这里出了问题。

5. 进阶把项目成果落地：模型持久化与增量更新

课程作业跑到分类报告这一步就可以提交了，但如果想让项目在答辩时更有说服力，可以再加上模型持久化和单条预测的封装，让评审能当场用新邮件测试模型表现。

5.1 用joblib持久化向量化器和模型

模型中要保存两个对象：词汇表对应的向量化器和已训练的分类器。两者必须配套使用，预测时的特征空间才能与训练时保持一致。

import joblib joblib.dump(vectorizer, 'vectorizer.joblib') joblib.dump(model, 'nb_model.joblib')

预测新邮件时，加载这两个文件：

vec = joblib.load('vectorizer.joblib') clf = joblib.load('nb_model.joblib') new_mail = ["恭喜您中奖了，点击链接填写信息领取888元红包"] new_vec = vec.transform(new_mail) result = clf.predict(new_vec) print("垃圾邮件" if result[0] == 1 else "正常邮件")

transform而不是fit_transform这一步是关键。新邮件只做词表映射，新增的未登录词直接舍弃，不能重新构建词汇表。这保证了线上特征空间和训练时严格一致。

5.2 增量训练与词表的动态更新

MultinomialNB支持partial_fit，可以分批喂数据，不需要一次把所有邮件载入内存。但CountVectorizer的词汇表一旦构建就固定了，新出现的词会被忽略。一个实用的结合方案是：每隔一段时间用新积累的全部数据重新执行一次完整训练，而非直接增量训练。如果必须做增量学习，需要同时把新增的tokens合并进现有词汇表，并在拟合模型时传入classes参数。

model.partial_fit(X_batch, y_batch, classes=[0, 1])

这个方法适合数据量持续增长且无法全量重训的场景。对期末项目而言，全量重训的成本完全可接受，优先选择重训。

5.3 用词级贡献度给模型“体检”

朴素贝叶斯的可解释性是最适合拿来展示的优势。对一个预测结果，把每个词对应的feature_log_prob_差值单独拎出来排序，能直观看到哪些词把邮件推向垃圾邮件方向：

word_contrib = {} for i, word in enumerate(vec.get_feature_names_out()): if new_vec[0, i] > 0: diff = clf.feature_log_prob_[1, i] - clf.feature_log_prob_[0, i] word_contrib[word] = diff sorted_words = sorted(word_contrib.items(), key=lambda x: x[1], reverse=True) print(sorted_words[:5])

feature_log_prob_[1]是垃圾类别中该词的对数条件概率，feature_log_prob_[0]是正常类别中的对应值。差值为正说明该词更倾向将邮件推向垃圾类，差值为负则是推向正常类。把正负差值最大的几个词打印出来，你会看到“领取”“点击”“中奖”这类垃圾信号词，“会议”“合同”“下周”这类正常高频词，两者的分离度一目了然。这个功能既是答辩现场最好的演示材料，也是排查“为什么某封正常邮件被误杀”的最直接手段。

本文还有配套的精品资源，点击获取