AI三大核心要素是数据、算法和算力，而算力的发展是最为迅速的一环。2020年OpenAI就发布分析报告，从2012年开始，AI训练所用的计算量呈现指数增长，平均每3.43个月便会翻倍，远高于摩尔定律的18个月翻倍的速度。大模型正是在这一背景下诞生的。依托飞速发展的算力，简单粗暴地堆砌参数是提升模型能效的捷径。机器学习先驱Richard S. Sutton著名的文章《苦涩的教训》里开篇就曾说道：“70年的
人工智能研究史告诉我们，充分利用计算能力的一般方法最终是最有效的方法。”OpenAI秉承这一简单甚至原始的理念，3年内将模型参数从15亿（在当时这已经是一个天文数字）提高到1750亿，足足拉高了116倍。
参数的爆炸式增长带来的直接后果就是模型成本的指数级上升。2019年以前，人工智能还是个百家争鸣的大众赛道，而大模型带来的投入成本门槛迅速把这个赛道变成了资本聚集、大厂统治的游戏。据业界估计，GPT-3仅训练一次的费用就高达500万美元，行业估计GPT-4的研发加运营成本突破数亿美元。
在如此高昂的成本之下，AI如何商业化落地成为业界难题。尽管GPT-4已经表现出了较高的智能化水平，但其局限性也很明显。支持大规模商业化应用所需要的是GPT-X，即模型的场景化和快速更新。面对极度高昂的训练成本，难以形成充分的市场化竞争，类似OpenAI这样的市场寡头也面临投入成本边际效应递减严重的问题，缺乏持续研发迭代的经济激励。这正是Altman所说的“大模型已至终局”而前路未知的根本原因。
版权申明：本内容来自于互联网，属第三方汇集推荐平台。本文的版权归原作者所有，文章言论不代表链门户的观点，链门户不承担任何法律责任。如有侵权请联系QQ：3341927519进行反馈。
