GPT-3

这篇文章试图剖析ChatGPT的突现能力（Emergent Ability），追溯这些能力的来源，希望能够给出一个全面的技术路线图，来说明GPT-3.5模型系列以及相关的大型语言模型是如何一步步进化成目前的强大形态。

本文作者从经济学切入，详细推导了类ChatGPT模型搜索的成本、训练GPT-3以及绘制LLM成本轨迹的通用框架，为探讨LLM成本结构和其未来发展提供了可贵的参考视角。