COSTAR-A: 增强 LLM 在视角问题上表现的提示框架
ArXiv ID: 2510.12637作者: Nzubechukwu C. Ohalete, Kevin B. Gittner, Lauren M. Matheny发布日期: 2025-10-14
摘要大型语言模型对提示设计高度敏感。本研究引入 COSTAR-A，一种增强现有 COSTAR 方法的新型提示工程框架。该框架特别针对视角（Point-of-View）问题进行了优化，增加了 Assumption（假设） 维度。研究在多个视角相关任务上评估 COSTAR-A，实验表明该框架在所有模型规模上都带来了8-20% 的性能提升，对小型模型的提升更加显著。
COSTAR-A 框架从 COSTAR 到 COSTAR-A1234567891011121314151617原始 COSTAR 框架（6 维度）：┌──────...
突破记忆墙：长上下文代理 LLM 推理的优化路径
突破记忆墙：长上下文代理 LLM 推理的优化路径
ArXiv ID: 2509.09505作者: Haoran Wu, Can Xiao, Jiayi Nie, Xuan Guo, Binglei Lou, Jeffrey T. H. Wong, Zhiwen Mo, Cheng Zhang, Przemysław Forys, Wayne Luk, Hongxiang Fan, Jianyi Cheng, Timothy M. Jones, Rika Antonova, Robert Mullins, Aaron Zhao机构: Imperial College London, Microsoft, Huawei发布日期: 2025-09-11
摘要LLM 现在构成了各种应用的 AI 代理的骨干。本文深入分析了长上下文代理 LLM 推理面临的记忆墙挑战，并提出了系统化的优化解决...