readme.md

November 3, 2021 · View on GitHub

标题

Paddle implementation of

Fastformer: Additive Attention is All You Need

简介

使用 Fastformer 结构做情感主题分类

Amazon Electronic Product Review Rating Classification

文本分类任务， 5 分类

内容

网络结构

实验设置

  • 第一列，Amazon

image-20211024144120831

评价指标

  • MacroF

image-20211024144240527

数据集

使用 Amazon Product Data 并随机抽取 Electronics 子类中 45k 的数据集

  • 40k train
  • 5k eval

初始权重

AI Studio 项目链接

https://aistudio.baidu.com/aistudio/projectdetail/2559430?shared=1

Github Repo

check with torch

参考 Repo