细领域训练及测试结果

April 9, 2019 · View on GitHub

以下是在不同数据集上的对比结果:

MSRAPrecisionRecallF-score
jieba87.0189.8888.42
THULAC95.6095.9195.71
pkuseg96.9496.8196.88
CTB8PrecisionRecallF-score
jieba88.6385.7187.14
THULAC93.9095.3094.56
pkuseg95.9995.3995.69
WEIBOPrecisionRecallF-score
jieba87.7987.5487.66
THULAC93.4092.4092.87
pkuseg93.7894.6594.21

跨领域测试结果

我们选用了混合领域的CTB8语料的训练集进行训练,同时在其它领域进行测试,以模拟模型在“黑盒数据”上的分词效果。选择CTB8语料的原因是,CTB8属于混合语料,理想情况下的效果会更好;而且在测试中我们发现在CTB8上训练的模型,所有工具包跨领域测试都可以获得更高的平均效果。以下是跨领域测试的结果:

CTB8 TrainingMSRACTB8PKUWEIBOAll AverageOOD Average
jieba82.7587.1487.1285.6885.6785.18
THULAC83.5094.5689.1391.0089.5587.88
pkuseg83.6795.6989.6791.1990.0688.18

其中,All Average显示的是在所有测试集(包括CTB8测试集)上F-score的平均,OOD Average (Out-of-domain Average)显示的是在除CTB8外其它测试集结果的平均。

默认模型在不同领域的测试效果

考虑到很多用户在尝试分词工具的时候,大多数时候会使用工具包自带模型测试。为了直接对比“初始”性能,我们也比较了各个工具包的默认模型在不同领域的测试效果。请注意,这样的比较只是为了说明默认情况下的效果,并不一定是公平的。

DefaultMSRACTB8PKUWEIBOAll Average
jieba81.4579.5881.8383.5681.61
THULAC85.5587.8492.2986.6588.08
pkuseg87.2991.7792.6893.4391.29

其中,All Average显示的是在所有测试集上F-score的平均。