GPT 模型的飞跃在于产生因果链条

• GPT 本质上是一个统计模型。所谓统计模型就是通过大量数据输入，让模型预测在一段语料后出现哪个词的可能性最大，非常简单粗暴。例如输入「今天天气」，后续出现概率最大的词应该是「真好」。到 3.0 为止，GPT 都只是一个普通的概率模型。
• GPT 质的飞跃出现在 3.0 到 3.5 之间，在这个阶段，GPT 具备了建立因果链条的能力。也就是说，它的「大脑」里，形成了现实世界的图景——一些人类世界的基础知识，不需要交代，它也能理解。但研究者也不知道这个能力是如何出现的。
• 人类有两种思考模式，快思考和慢思考。快思考是动物性的思考，例如遇到危险会躲闪。慢思考是人类特有的，是一种逻辑推演能力。
• 过去的 AI，例如 AlphaGo 模仿的是人类的快思考模式，其本质是一个非常复杂的函数，一头输入另一头输出，没有中间步骤。GPT 具备思维链条（COT，chain of thought）能力，他有逻辑推演的中间步骤，更像具有智慧的人类。 来源：AI 狂飙的时代，人还有价值吗？