泰语电商域Query NER介绍
模型描述
本方法采用Transformer-CRF模型,使用XLM-RoBERTa(XLM-R)作为预训练模型底座。本模型主要用于给输入泰语搜索query文本产出命名实体识别结果, 具体调用方式请参考代码示例。
训练数据介绍
- ecom-query-th: 内部泰语电商领域搜索query命名实体识别(NER)数据集, 支持产品(product), 功能(function), 品牌(brand), 模式(pattern), 颜色(color), 用户群体(consumer_group), 风格(style)等七大类型的实体识别
实体类型 |
英文名 |
产品 |
product |
功能 |
function |
品牌 |
brand |
图案 |
pattern |
颜色 |
color |
用户群体 |
consumer_group |
风格 |
style |
快速上手
适用范围
在安装ModelScope完成之后即可使用named-entity-recognition(命名实体识别)的能力, 默认单句长度不超过512, 推荐输入长度不超过128的句子。
代码示例
from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks
ner_pipeline = pipeline(Tasks.named_entity_recognition, 'damo/nlp_xlmr_named-entity-recognition_thai-ecommerce-query', model_revision='v1.0.1')
result = ner_pipeline('ซงกาแฟ')
print(result)
#{'output': [{'type': 'product', 'start': 0, 'end': 7, 'span': 'ซง กาแฟ'}]}
性能评测
全局评测
Precision |
Recall |
F1 |
81.8 |
83.6 |
82.7 |
按实体类型评测
实体类型 |
Precision |
Recall |
F1 |
brand |
80.67 |
81.94 |
81.30 |
color |
77.42 |
87.27 |
82.05 |
consumer_group |
92.59 |
91.91 |
92.25 |
function |
68.52 |
69.59 |
69.05 |
pattern |
75.45 |
74.44 |
74.94 |
product |
84.42 |
86.71 |
85.55 |
style |
82.05 |
84.21 |
83.12 |