Charlie O'Neill 撰文探讨如何真正定义持续学习问题

Charlie O'Neill 撰文讨论持续学习，认为当前 AI 智能体像失忆的实习生，只能靠上下文里的笔记而非自身进步。他指出 LLM 只有两种原生记忆，KV cache 无损但昂贵，Llama 3.1 70B 在约 431,000 token 时缓存超过 141 GB 的权重，权重稳定但难以安全更新。