EmoLLM专业指标评估
May 28, 2024 · View on GitHub
简介
本文档介绍一种专业评测方法，并提供 EmoLLM 在专业指标的得分。
评测方法
本评测方法采用论文《CPsyCoun: A Report-based Multi-turn Dialogue Reconstruction and Evaluation Framework for Chinese Psychological Counseling》提出的评测指标与方法。
- 指标：Comprehensiveness, Professionalism, Authenticity, Safety
- 方法：Turn-Based Dialogue Evaluation
- 数据集：CPsyCounE
评测结果
-
评测模型:
- EmoLLM V1.0 (InternLM2_7B_chat_qlora)
- EmoLLM V2.0 (InternLM2_7B_chat_full)
-
得分：
| Model | Comprehensiveness | Professionalism | Authenticity | Safety |
|---|---|---|---|---|
| InternLM2_7B_chat_qlora | 1.32 | 2.20 | 2.10 | 1.00 |
| InternLM2_7B_chat_full | 1.40 | 2.45 | 2.24 | 1.00 |
比较
-
EmoLLM V2.0 相比 EmoLLM V1.0 在指标上全面提升！已超越 Role-playing ChatGPT 在心理咨询任务上的能力！
-
EmoLLM V1.0 在 InternLM2_7B_Chat 基础上提升较大；相比 Role-playing ChatGPT 在心理咨询任务上能力相近
-
对比结果图片来源于论文《CPsyCoun: A Report-based Multi-turn Dialogue Reconstruction and Evaluation Framework for Chinese Psychological Counseling》