当前位置:   article > 正文

​在英特尔至强 CPU 上使用 Optimum Intel 实现超快 SetFit 推理

​在英特尔至强 CPU 上使用 Optimum Intel 实现超快 SetFit 推理

在缺少标注数据场景,SetFit 是解决的建模问题的一个有前途的解决方案,其由 Hugging Face 与Intel 实验室以及UKP Lab合作共同开发。作为一个高效的框架,SetFit 可用于对Sentence Transformers模型进行少样本微调。

SetFit 仅需很少的标注数据就能达到较高的准确率,例如,在使用 3-示例提示时,SetFit优于GPT-3.5;在使用 5-示例提示时,其在 Banking 77 金融意图数据集上的表现也优于使用 3-示例提示的 GPT-4。

  • Intel 实验室https://www.intel.com/content/www/us/en/research/overview.html

  • UKP Labhttps://www.informatik.tu-darmstadt.de/ukp/ukphome/index.en.jsp

  • Sentence Transformershttps://sbert.net/

  • SetFit 优于 GPT-3.5https://arxiv.org/pdf/2311.06102.pdf

与基于 LLM 的方法相比,SetFit 有两个独特的优势:

推荐阅读
相关标签