GPT-3

总结

我们表明，任何人都可以使用高质量的训练数据，在一台机器上用30分钟对其进行训练，从而获得过时的开源大型语言模型（LLM），并赋予其神奇的ChatGPT般的指令跟随能力。令人惊讶的是，指令遵循似乎不需要最新或最大的模型：我们的模型只有60亿个参数，而GPT-3的参数为1750亿。我们为我们的模型（Dolly）开源代码，并展示如何在Databricks上重新创建它。我们相信，像Dolly这样的模特将有助于LLM的民主化，将它们从很少有公司能负担得起的东西转变为每个公司都可以拥有和定制的商品，以改进他们的产品。

出身背景

ChatGPT是一种专有的指令遵循模型，于2022年11月发布，风靡全球。该模型是根据网络上数万亿个单词进行训练的，需要大量的GPU来开发。这很快导致谷歌和其他公司发布了自己的专有指令遵循模型。2023年2月，Meta向学术研究人员发布了一组名为LLaMA的高质量（但不遵循指令）语言模型的权重，每个模型训练超过80000 GPU小时。然后，在三月份，斯坦福大学建立了Alpaca模型，该模型基于LLaMA，但调整了一个由50000个类似人类的问答组成的小数据集，令人惊讶的是，这使它表现出了类似ChatGPT的交互性。