Hugging Face 讲解多向量嵌入模型的 Token Pooling-Aware Training 实践
Hugging Face 博客介绍如何用 pooling-aware training 压缩多向量检索模型的文档向量,并给出可复现的 Sentence Transformers 训练示例。
Hugging Face 博客介绍如何用 pooling-aware training 压缩多向量检索模型的文档向量,并给出可复现的 Sentence Transformers 训练示例。
LangChain 发布博客讲解 Agent 记忆的上下文工程应从检索入手,指出低效搜索、单次上下文过载、无关或过时信息三类问题,并以 Deep Agents 构建的竞品分析 Agent 为例给出对策。
推荐理由:原文以竞品分析 Agent 为例拆解检索低效、上下文过载和陈旧信息三类问题,并给出 grep、offload、子代理委托等可直接复用的做法。
Apple 研究人员在 ICML 2026 论文《Amortizing Maximum Inner Product Search with Learned Support Functions》中提出用小型神经网络加速最大内积搜索(MIPS),以提升 RAG 等检索效率。
Mastra 发布 Knowledge(alpha),为 Agent 提供以页面组织的共享知识库,可与 context engineering 原语 signals 配合,Agent 不仅能读取还能写入更新以实现自我改进。
LangChain 介绍如何用开源工具 OpenWiki 编译 wiki 作为智能体的持久记忆层,在 111 份合成保险文档上测试。对需要跨文档关联的 50 个问题,wiki 将准确率从 0.10 提升到 0.52(约 5 倍),单个正确答案成本从约 $0.55 降至 $0.19;再叠加轻量证据图后准确率再升 27%,引用一致性翻倍,中位回答时间降 40%。
推荐理由:LangChain 用 111 份保险文档实测跨源问答,给出了编译 wiki 加证据图对准确率、成本和引用一致性的具体量化变化。
LLM 本身没有记忆,每次调用从零开始,Agent 记忆是模型外部的一层:把学到的内容存储起来,在每次调用前检索并注入提示词。文章区分了短时记忆(当前会话消息、中间推理)与长时记忆(用户偏好、历史任务结果),并对比了四种知识承载方式:模型权重内的 LLM 记忆、上下文工程、RAG(只读不回写)和会持续演化的 agent 记忆。
AI agent 的模型幻觉通常与正常回答无异,需要在工作流中分层检测。指南将幻觉分为事实性、上下文性、虚构和自相矛盾四类,并介绍 faithfulness/groundedness 检查(可用 DeepEval 自动化)、自一致性检查、语义熵不确定性估计、外部源验证以及按置信度阈值分流并保留 human in the loop 的方案。单一检查无法覆盖所有失败模式,需按失败类型组合多层验证。
n8n 博客讲解了如何在自托管 LLM 与云 API 之间路由请求,混合方案可按请求类型在本地与云端间分流。