next-GPT.md

October 23, 2023 · View on GitHub

三方面贡献：

  2. 引入轻量的对齐学习技术，在 encoding 侧，以 LLM 为中心的对齐，在 decoding 侧是 instruction-following 对齐，只需要1% 参数是可学习的，所以训练的成本很低