简而言之，任务调节是指模型针对多个不同的任务从完全相同的输入产生不同的输出。这些情况下的输出是独特的自然语言序列。 零样本学习是零样本任务迁移的一个方面。没有向模型提供示例，模解任务。此时，GPT-1 会重新排列序列并对其进行微调。相反，GPT-2 被期望仅通过语言来理解任务的性质并提供答案。 GPT-2 的数据集也得到了极大扩展。
使用的 WebText 数据集包括来自超过 800 万个来源的约 40GB 文本数据。与图书语料库相比，这是一个巨大的扩展。 GPT-3 GPT-3 的论文标题为“Language Models are Few Shot Learners”。这个想法是语言 阿尔及利亚 手机号码 模型不需要微调和很少的指令就可以理解 NLP 任务并执行它们。开放 AI 构建的模型包含 1750 亿个参数，比之前的模型有了巨大的扩展（超过 100 倍）。
该数据集进一步扩展到五个不同的语料库。 这些改进使 GPT-3 能够编写与人类撰写的文章不易区分的完整文章。但它也可以执行未经专门训练的随机任务。例如，它有能力解决数学和编码问题或执行语言任务。对于前者，事实证明它特别有前途。 GPT-3 可以提供编码任务的自然语言描述。 GPT-3.5 和 ChatGPT ChatGPT 基于 GPT-3.5，即 GPT-3 的更新版本。 |
