2025-07-20 20:48 点击次数:142
记忆方式
人类有长期记忆和短期记忆,可以主动回忆、遗忘、联想
AI 没有真正的记忆,只有“输入窗口”,上下文一旦滑出窗口就被遗忘(除非启用外部记忆模块)
理解机制
人类基于感知、情绪、动机、经验、因果推理
AI 仅基于词的共现概率统计,没有情感、感知和内在目标
学习方式
人类通过主动体验、探索环境、和外界交互
AI 依赖大量离线数据训练,推理阶段不会主动学习
因果推理能力
人类天生倾向于寻找“为什么”,构建因果模型
AI 语言模型大多只擅长相关性(A 常跟 B 出现),不具备真正的因果建模能力(虽然正在研究增强)
自我意识
人类有自我认知(我是谁,我要干什么)
AI 语言模型没有任何主观意识、目标或意图,仅是自动补全文本
适应性
人类能迁移知识、适应新环境
AI 只能在训练分布范围内表现优秀,遇到陌生场景容易“胡编”或出错
大语言模型如何“记忆”和处理上下文
🔹1. 训练阶段(Training)
在训练大模型时,确实使用了大量的对话数据或文本数据。这包括:
公共的网页、书籍、论文、代码等
经脱敏处理后的对话数据(取决于数据源和许可)
训练的目标是:让模型学会 如何生成类似的语言和逻辑
所以:
“前面的聊天记录是否训练了模型参数?”
如果你说的是模型在2024年以前的训练,那是的,历史的对话数据(例如 Reddit、论坛、问答)确实用于训练模型的参数。
但你和 ChatGPT 当前这轮对话的历史记录,不会实时反过来影响模型的权重(除非用于后续离线模型训练)。
🔹2. 推理阶段(Inference)
现在你在用 ChatGPT 和我说话,这是推理阶段,模型已经训练完了。这时:
实际处理流程是:
把你当前的提问,连同最近的聊天历史(窗口上下文)一起打包成输入
然后一次性送入模型,让模型“看着上下文”,生成回答
但是注意:
模型不会从这次对话“学习”你是谁或记住你说了什么(除非你用了记忆功能)
它也不会更新权重参数,只是靠上下文推理
超出上下文窗口的内容(比如太久之前的聊天),模型就“看不