以某石油公司2017~2021年的1565条隐患记录为数据源，其中原始数据包括设备分类、隐患类别、描述、是否有直接HSE风险、发现时间等( 表1 )。在对文本反应的安全隐患进行评估时，遵照公司隐患响应等级标准( 表2 )，主要分析 表1 中的隐患描述。

在挖掘文本蕴藏的隐患信息前，中文文本需要先进行分词和停用词过滤。本文采用Jieba中文分词工具包和通用停用词库对隐患文本进行预处理，将文档转化成词列表。有别于微博等社交型文本，每条安全隐患文本的词汇数在10到30之间，语言精炼且包含庞大的信息量。如果仅使用词作为特征，过少的特征单元难以保证隐患评估的最终效果。因此将词进行连接，扩展成N-gram短语用以拓展词袋维度是较为有效的方法。

由于用作构建N-gram的词数越多，其在整个领域的文档中出现的次数就越少，超过Four-gram的短语基本上已经失去了作为最小特征单元的意义。使用Bi-gram，Tri-gram，Four-gram来拓展词袋维度具有较好的拟合能力和效果。以Tri-gram字串为例，即是以相邻三个词构成的短语作为特征单元。词袋模型是将文档视作最小词单元的线性组合，通过构建以词为列的矩阵来表达原文档，在用于垃圾邮件分类问题或多领域文本的分类上具有较好效果。但由于其忽略了词序及组合的信息，在词的出现基本相同的同领域文档的语义分析问题上收效甚微。而将最小单元拓展到N-gram短语则在一定程度上克服了这个问题，以“单点带缆甲板”为例，分词工具将其切割成由“单点、带缆、甲板”三个词汇组成的列表，失去了词序信息的排列组合很难真正等同于原始短语。在隐患文本这个领域中，“单点–带缆–甲板”这个Tri-gram字串才是真正指向某个具体设备的最小单位信息。

如果仅仅只是依照文档的词序生成不重复的N-gram字串，词袋的维度会扩张到一个极为庞大的状态，这不仅会生成过多的噪音特征来隐藏真正有用的信息，造成判断精度的下降，由于维度过大，计算资源的消耗也会造成判定时间过长的问题。而面对用于描述一整个海上平台隐患领域的文本信息，人工定义这些短语的工程量又太过庞大，几乎难以实现。为此，利用现有的隐患记录资源，实现无监督的N-gram生成是更为有效和可行的方式。

将每条文档的词与N-gram出现的次数作为特征值填入矩阵，选择适当的参数训练，构造朴素贝叶斯模型。最后，利用此模型就可以搭建一条隐患评估处理流水线。尽管，这样简单的剪枝算法达到了抑制维数灾难的目的，但也损失了相当多的信息，这些信息或许出现的次数并不多，但它对于隐患的评估却很重要。并且随着文档数的增加，剪枝的阈值线无法变化的问题也会导致“过滤”失效。为了解决上述问题，本文提出一种N-gram剪枝生成算法。

N-gram的剪枝生成算法步骤如下：首先扫描切分好的文档–词列表，得到每条文档的词项集T₁及对应的统计信息 $C\left(t_{1j}\right)$，同时将 $t_{ij}$按文本顺序拼接生成T₂至T_N并统计对应的统计信息 $c\left(t_{ij}\right)$，构建一个不重复的键值对存储对象，其中键为词项，值为统计信息。将文档列表中重复出现的词项的统计值加和，直到扫描完所有训练集文档，该步骤仅需扫描一次数据集。然后读取该键值对存储对象计算出每个词项的支持度，设置正整数M，计算出剪枝度量线Cutline。以该值作为支持度过滤线，筛选出大于该线的词项，完成第一次剪枝。设置最小置信度，扫描剩下的词项，计算出置信度，取满足最小置信度的词项作为剪枝生成的最终词项集，算法结束。算法流程图如 图1 所示。

N-gram剪枝生成算法可以无监督的生成N-gram特征单元且在生成步骤仅需一次扫描，剪枝度量线也克服了文档数对剪枝阈值的影响，算法经由两步剪枝得到最终的特征维度，其中第一次剪枝会快速收缩矩阵维度，第二次剪枝的最小置信度需要人工调整，是对特征维度的微调。

以文档中词和N-gram出现的次数来衡量它对评估的权重影响是可行的方法，但同样高频率这一数学特征也制约了评估模型精度的进一步上升。由于人拥有比机器更高级的语言能力，能够很轻易的分辨出一些在衡量隐患上更重要的信息，尽管这些信息出现的次数并不多。而对于机器和数学模型来说，它们并没有人在漫长的人生中不断积累并成长的外部语言模型来解决隐患评估这一问题。因此笔者提出一种基于逆TF-IDF值来进行词袋特征值增强的算法，进一步提升了模型的隐患评估能力。

笔者依旧使用词出现数作为特征值主体，转而使用逆TF-IDF值来增强这一信息。使得模型在隐患评估时，能够在某种程度上克服高频词的影响，使更多的N-gram参与到隐患评估任务中，实验结果也表明了该算法进一步提升了模型的评估准确度，计算公式如下：

$\text{StrengthenFV}\left(t_{ij}\right)=-\log (TF\left(t_{ij}\right)\times IDF(t_{ij}))\times c\left(t_{ij}\right)$(1)

此处的 $c\left(t_{ij}\right)$表示某一篇隐患文档中词项的出现次数，而非文档集词项出现的总次数。

本文使用机器学习中最常使用的分类任务评价指标，精确率(Precision)、召回率(Recall)、F1-score [16] 来衡量该模型对文本的识别和挖掘能力。考虑到模型解决的任务为四分类任务，而四种不同的隐患等级文本数量并非均衡，因此在计算以上三项指标时选择了权重(weighted)参数进行优化，见 表3 。

本文以传统的词袋向量构造方法和TF-IDF值替换特征值作为基准模型进行实验对比。经过训练得到上述几种模型后将1565条数据作为测试集让模型进行隐患评估并输出结果，与实际结果比照并计算评价指标。在词袋重构步骤，不进行剪枝、传统剪枝方法及N-gram剪枝生成算法下词袋各词项集维度见 表4 。在特征值填充步骤，根据不同的剪枝算法构造出的词袋，分以TF-IDF值为基、词项数为基和以本文中增强算法计算出的值作为特征值，实验得到的结果如 表5 。

从 表4 的维数统计情况来看，传统依据词项数进行剪枝的方法与本文中提出的N-gram剪枝算法均能无监督地将词项集压缩到相同的数量级。与受词连接后数量不断减小这一现象影响的传统算法相比，新方法保留的维度数呈现高斯分布，能更好的保留有效特征短语。从实际的语言理解上来说，三个词组成的短语更容易出现特定的搭配，随着维数上升，这种性质又会被词出现的组合情况增加所淡化。从对照实验中也可以看到，仅在剪枝步环节进行优化，模型的性能约有5%左右的提升。对于该任务，在特征值的选取上，TF-IDF值并不是一个有效的选择。但从召回率大于25%可以看出，以TF-IDF值为基的模型发现了某些不同于词项数的特征，而这部分特征贡献了12%的召回率。因此将TF-IDF值作为一种权重调整手段，使用特征值增强算法填充特征值的模型又较仅使用词项数作特征的模型整体有了接近5%的提升。