Transformer 是由谷歌于 2017 年在 Attention Is All You Need 中首次提出。Transformer的提出在很大程度上改变了自然语言处理领域的局面，取代了传统的循环神经网络和卷积神经网络在语言模型、机器翻译等任务中的地位。

Transformers是一个开源的自然语言处理（NLP）库，由Hugging Face开发和维护。它基于Transformer架构，提供了各种预训练模型和工具，用于解决各种NLP任务，如文本分类、问答、命名实体识别等。