OpenAI最早的语言模式是GPT-2，于2019年公布，发布时就有 15亿参数，此后随着OpenAI研究人员发现扩大模型参数数量能有效提升模型完善程度，真正引爆AI行业浪潮的GPT-3.5发布时，参数数量已经达到了1750亿。但人类互联网历史上被保留下来的各种高质量语料，已经在 GPT-3以及后续发布的GPT-4的学习中被消耗殆尽。大模型参数数量仍然可以继续膨胀下去，但对应数量的高质量数据却越来越稀缺，因此增长参数数量带来的边际效益愈发降低。
版权申明：本内容来自于互联网，属第三方汇集推荐平台。本文的版权归原作者所有，文章言论不代表链门户的观点，链门户不承担任何法律责任。如有侵权请联系QQ：3341927519进行反馈。
