GloriaaaM commited on
Commit
aa66d10
·
1 Parent(s): 277fe50

Update README files and add survey PDF v4

Browse files
.gitattributes CHANGED
@@ -58,3 +58,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
58
  # Video files - compressed
59
  *.mp4 filter=lfs diff=lfs merge=lfs -text
60
  *.webm filter=lfs diff=lfs merge=lfs -text
 
 
58
  # Video files - compressed
59
  *.mp4 filter=lfs diff=lfs merge=lfs -text
60
  *.webm filter=lfs diff=lfs merge=lfs -text
61
+ *.pdf filter=lfs diff=lfs merge=lfs -text
Agent_Harness_for_LLM_Agents__A_Survey__v4.pdf ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:21149dca73d54062509d6740a030360c65cc7099db84990927d0c3426a0f14bd
3
+ size 19427862
README.md CHANGED
@@ -41,7 +41,8 @@ size_categories:
41
 
42
  > **The agent execution harness — not the model — is the primary determinant of agent reliability at scale.**
43
  > This survey formalizes the harness as a first-class architectural object **H = (E, T, C, S, L, V)**, surveys 110+ papers, blogs and reports across 23 systems, and maps 9 open technical challenges.
44
- > 📄 **[Read the Paper](#)** (coming soon)
 
45
  > ✉️ Corrections & suggestions: gloriamenng@gmail.com (Qianyu Meng); wangyanan@mail.dlut.edu.cn (Yanan Wang); chenliyi@xiaohongshu.com (Liyi Chen)
46
 
47
  If you find this survey useful, please cite:
@@ -52,8 +53,10 @@ If you find this survey useful, please cite:
52
  author = {Meng, Qianyu* and Wang, Yanan* and Chen, Liyi and Wang, Qimeng and
53
  Lu, Chengqiang and Wu, Wei and Gao, Yan and Wu, Yi and Hu, Yao},
54
  year = {2026},
55
- url = {https://github.com/Gloriaameng/LLM-Agent-Harness-Survey},
56
- note = {*Equal contribution. Work in progress}
 
 
57
  }
58
  ```
59
 
@@ -63,6 +66,7 @@ If you find this survey useful, please cite:
63
 
64
  - **[2026-04-03]** Initial release
65
  - **[2026-04-07]** Repo updated
 
66
 
67
  ---
68
 
@@ -114,7 +118,7 @@ We introduce a formal definition of the **agent execution harness** as a six-com
114
  - 💬 *"The harness is the chassis; the model is the engine."* — practitioner consensus, 2026
115
 
116
  <p align="center">
117
- <img src="https://raw.githubusercontent.com/Gloriaameng/LLM-Agent-Harness-Survey/main/assets/root_cause_diagram.png" width="640" alt="Root Cause Analysis"/>
118
  </p>
119
 
120
  ### What This Survey Accomplishes
@@ -136,7 +140,7 @@ We introduce a formal definition of the **agent execution harness** as a six-com
136
  ## Historical Timeline
137
 
138
  <p align="center">
139
- <img src="https://raw.githubusercontent.com/Gloriaameng/LLM-Agent-Harness-Survey/main/assets/timeline.png" width="720" alt="Historical Evolution of Agent Harnesses"/>
140
  </p>
141
 
142
  | Year | Milestone | Significance |
@@ -468,7 +472,7 @@ We introduce a formal definition of the **agent execution harness** as a six-com
468
  > **Key numbers:** AgencyBench — agents achieve **48.4% success on native SDK harness** vs substantially lower on independent harnesses, demonstrating tight harness-agent coupling. Byzantine fault tolerance remains an open problem for adversarial multi-agent settings.
469
 
470
  <p align="center">
471
- <img src="https://raw.githubusercontent.com/Gloriaameng/LLM-Agent-Harness-Survey/main/assets/multi_agent_topology.png" width="680" alt="Multi-Agent Coordination Topologies"/>
472
  </p>
473
 
474
  - <u>SAGA</u>†: **"SAGA: A Security Architecture for Governing AI Agentic Systems"**. *Syros et al.* NDSS 2026. [[Paper](https://arxiv.org/abs/2504.21034)]
@@ -539,9 +543,9 @@ See BibTeX at the top of this README.
539
 
540
  | Version | Date | Changes |
541
  |---------|------|---------|
542
- | v1 | 2026-04-03 | Initial preprint |
543
  | v2 | 2026-04-07 | Repo updated |
544
-
545
  ---
546
 
547
  <p align="center">
 
41
 
42
  > **The agent execution harness — not the model — is the primary determinant of agent reliability at scale.**
43
  > This survey formalizes the harness as a first-class architectural object **H = (E, T, C, S, L, V)**, surveys 110+ papers, blogs and reports across 23 systems, and maps 9 open technical challenges.
44
+ > 📄 **[Read the Paper](./Agent_Harness_for_LLM_Agents__A_Survey_v3.pdf)** (Latest version, under review)
45
+ > 🌐 **[Preprints Version (v2)](https://www.preprints.org/manuscript/202604.0428/v2)**
46
  > ✉️ Corrections & suggestions: gloriamenng@gmail.com (Qianyu Meng); wangyanan@mail.dlut.edu.cn (Yanan Wang); chenliyi@xiaohongshu.com (Liyi Chen)
47
 
48
  If you find this survey useful, please cite:
 
53
  author = {Meng, Qianyu* and Wang, Yanan* and Chen, Liyi and Wang, Qimeng and
54
  Lu, Chengqiang and Wu, Wei and Gao, Yan and Wu, Yi and Hu, Yao},
55
  year = {2026},
56
+ doi = {10.20944/preprints202604.0428.v2},
57
+ url = {https://www.preprints.org/manuscript/202604.0428/v2},
58
+ publisher = {Preprints},
59
+ note = {* Equal contribution. Under review, latest version available at: https://github.com/Gloriaameng/LLM-Agent-Harness-Survey}
60
  }
61
  ```
62
 
 
66
 
67
  - **[2026-04-03]** Initial release
68
  - **[2026-04-07]** Repo updated
69
+ - **[2026-04-09]** Preprint released
70
 
71
  ---
72
 
 
118
  - 💬 *"The harness is the chassis; the model is the engine."* — practitioner consensus, 2026
119
 
120
  <p align="center">
121
+ <img src="assets/root_cause_diagram.png" width="640" alt="Root Cause Analysis"/>
122
  </p>
123
 
124
  ### What This Survey Accomplishes
 
140
  ## Historical Timeline
141
 
142
  <p align="center">
143
+ <img src="assets/timeline.png" width="720" alt="Historical Evolution of Agent Harnesses"/>
144
  </p>
145
 
146
  | Year | Milestone | Significance |
 
472
  > **Key numbers:** AgencyBench — agents achieve **48.4% success on native SDK harness** vs substantially lower on independent harnesses, demonstrating tight harness-agent coupling. Byzantine fault tolerance remains an open problem for adversarial multi-agent settings.
473
 
474
  <p align="center">
475
+ <img src="assets/multi_agent_topology.png" width="680" alt="Multi-Agent Coordination Topologies"/>
476
  </p>
477
 
478
  - <u>SAGA</u>†: **"SAGA: A Security Architecture for Governing AI Agentic Systems"**. *Syros et al.* NDSS 2026. [[Paper](https://arxiv.org/abs/2504.21034)]
 
543
 
544
  | Version | Date | Changes |
545
  |---------|------|---------|
546
+ | v1 | 2026-04-03 | Initial release |
547
  | v2 | 2026-04-07 | Repo updated |
548
+ | v3 | 2026-04-09 | Preprint added |
549
  ---
550
 
551
  <p align="center">
README_zh.md CHANGED
@@ -21,39 +21,44 @@ size_categories:
21
 
22
  [English](README.md) | [中文](README_zh.md)
23
 
24
- # 大语言模型智能体约束工程框架综述
25
 
26
  [![GitHub Stars](https://img.shields.io/github/stars/Gloriaameng/LLM-Agent-Harness-Survey?style=social)](https://github.com/Gloriaameng/LLM-Agent-Harness-Survey/stargazers)
27
  [![License](https://img.shields.io/badge/License-CC--BY--4.0-blue.svg)](LICENSE)
28
  [![Papers](https://img.shields.io/badge/Papers-110%2B-green)]()
29
  [![Version](https://img.shields.io/badge/Version-v2-orange)]()
30
  [![HuggingFace](https://img.shields.io/badge/%F0%9F%A4%97-Dataset-yellow)](https://huggingface.co/datasets/GloriaaaM/LLM-Agent-Harness-Survey)
 
31
 
32
  </div>
33
 
34
  <p align="center">
35
- <img src="https://raw.githubusercontent.com/Gloriaameng/LLM-Agent-Harness-Survey/main/assets/architecture_diagram.png" width="720" alt="H=(E,T,C,S,L,V) 六组件架构"/>
36
  </p>
37
 
 
38
  > ⭐ **本 survey 持续更新中。如果对你有帮助,欢迎 Star 关注最新进展,也帮助更多人发现它。**
39
 
40
  ---
41
 
42
- > **智能体约束工程框架——而非模型本身——是智能体大规模部署可靠性的首要决定因素。**
43
- > 本综述将约束工程框架形式化为一级架构对象 **H = (E, T, C, S, L, V)**,系统调研了涵盖23个系统的110余篇论文、博客和报告,并总结了9项开放性技术挑战。
44
- > 📄 **[阅读论文](#)** (即将发布
45
- > ✉️ 勘误与建议:gloriamenng@gmail.com; wangyanan@mail.dlut.edu.cn; chenliyi@xiaohongshu.com
 
46
 
47
  如果本综述对您有所帮助,请引用:
48
 
49
  ```bibtex
50
- @misc{meng2026agentharness,
51
  title = {Agent Harness for Large Language Model Agents: A Survey},
52
  author = {Meng, Qianyu* and Wang, Yanan* and Chen, Liyi and Wang, Qimeng and
53
  Lu, Chengqiang and Wu, Wei and Gao, Yan and Wu, Yi and Hu, Yao},
54
  year = {2026},
55
- url = {https://github.com/Gloriaameng/LLM-Agent-Harness-Survey},
56
- note = {* Equal contribution. Work in progress}
 
 
57
  }
58
  ```
59
 
@@ -63,6 +68,7 @@ size_categories:
63
 
64
  - **[2026-04-03]** 首次发布
65
  - **[2026-04-07]** 仓库更新
 
66
 
67
  ---
68
 
@@ -70,10 +76,10 @@ size_categories:
70
 
71
  - [概述](#概述)
72
  - [历史时间线](#历史时间线)
73
- - [约束工程框架完备性矩阵](#约束工程框架完备性矩阵)
74
  - [论文列表](#论文列表)
75
  - [历史渊源](#历史渊源)
76
- - [约束工程框架分类](#约束工程框架分类)
77
  - [技术挑战](#技术挑战)
78
  - [安全与沙箱](#安全与沙箱)
79
  - [评估与基准测试](#评估与基准测试)
@@ -95,7 +101,7 @@ size_categories:
95
 
96
  大语言模型(LLM)智能体正日益部署于自主规划、工具使用和多步骤交互环境中。主流叙事将智能体性能归因于底层模型能力。**本综述挑战了这一假设。**
97
 
98
- 我们提出了**智能体约束工程框架**的形式化定义,将其定义为包含六个组件的元组:
99
 
100
  | 组件 | 符号 | 作用 |
101
  |------|------|------|
@@ -106,24 +112,24 @@ size_categories:
106
  | 生命周期钩子 | **L** | 认证,日志,策略执行,监测埋点 |
107
  | 评估接口 | **V** | 行动轨迹,中间状态,成功信号 |
108
 
109
- **约束工程重要性的关键实证证据:**
110
- - 🔥 Pi Research:Grok Code Fast 1 模型在 SWE-bench 上从 **6.7% → 68.3%**,仅通过修改约束工程的编辑工具格式——模型不变
111
  - 💀 OpenAI Codex:5个月内生成**100万行代码,0行手写**——失败归因��"环境规范不足"而非模型能力
112
- - ⚡ Stripe Minions:**每周1300个PR,0行人工代码**——约束优先工程
113
- - 📉 METR:通过基准测试的PR人工合并率**低24.2个百分点**,差距以9.6pp/年速度扩大——评估约束工程框架有效性危机
114
- - 💬 *"约束工程是底盘;模型是引擎。"* ——2026年业界共识
115
 
116
  <p align="center">
117
- <img src="https://raw.githubusercontent.com/Gloriaameng/LLM-Agent-Harness-Survey/main/assets/root_cause_diagram.png" width="640" alt="根因分析"/>
118
  </p>
119
 
120
  ### 本综述的学术贡献
121
 
122
- **概念贡献:**我们将智能体约束工程框架形式化为具有六个可治理组件(E, T, C, S, L, V)的架构对象,将其从隐式基础设施提升为显式研究目标。
123
 
124
- **实证范围:**我们系统性地综述了110余篇论文,涵盖学术研究(评估基准、安全框架、记忆架构)和生产部署(Stripe、OpenAI、Cursor、METR),确立了约束工程框架设计是已部署智能体可靠性的约束瓶颈这一观点。
125
 
126
- **方法论进展:**我们引入了**约束工程框架完备性矩阵**——一个结构化评估框架,映射每个系统实现了六个组件中的哪些——使得先前综述无法实现的异构智能体系统直接对比成为可能。
127
 
128
  **已识别的开放挑战:**我们记录了九项技术挑战,这些挑战当前研究仅提供了部分解决方案而无生产级基础设施:形式化安全模型、跨工程框架可移植性、协议互操作性(MCP/A2A)、百万级token/任务的上下文经济性、多智能体系统中的拜占庭容错、组合式验证。
129
 
@@ -136,20 +142,20 @@ size_categories:
136
  ## 历史时间线
137
 
138
  <p align="center">
139
- <img src="https://raw.githubusercontent.com/Gloriaameng/LLM-Agent-Harness-Survey/main/assets/timeline.png" width="720" alt="智能体约束工程的历史演进"/>
140
  </p>
141
 
142
  | 年份 | 里程碑 | 意义 |
143
  |------|--------|------|
144
- | 1997–2005 | JUnit, TestNG, xUnit 家族 | 软件测试约束工程范式;标准化观察-断言生命周期 |
145
- | 2016 | OpenAI Gym (Brockman et al.) | 强化学习环境约束工程框架;step/reset API 成为规范接口 |
146
  | 2022年11月 | ChatGPT 公开发布;LangChain 出现 | 面向LLM的智能体框架萌芽;工具使用成为一级公民 |
147
  | 2023 | ReAct, Toolformer, MemGPT, Reflexion, Voyager, AutoGPT | 核心智能体模式:推理-行动、记忆、反思、技能积累 |
148
- | 2023 | CAMEL, ChatDev, Generative Agents | 多智能体协同;社会仿真约束工程 |
149
  | 2023 | AgentBench, SWE-bench | 智能体评估基础设施涌现 |
150
  | 2024 | MetaGPT, WebArena, ToolLLM, SWE-agent, OSWorld | 全栈执行器;真实世界环境基准测试 |
151
  | 2024 | CodeAct, LATS, Tree of Thoughts | 结构化动作空间;搜索增强规划 |
152
- | 2024年11月 | Anthropic 发布 MCP 协议 | 首个主要工具↔约束工程标准化(2–15ms延迟) |
153
  | 2025 | HAL, AIOS, LangGraph | 基准测试统一(21,730次评估);操作系统级调度(2.1×加速) |
154
  | 2025 | Google 发布 A2A 协议 | 智能体↔智能体标准化(50–200ms) |
155
  | 2025 | MemoryOS, SkillsBench†, AgentBound† | 记忆操作系统抽象;技能即上下文(+16.2pp);安全认证 |
@@ -159,7 +165,7 @@ size_categories:
159
 
160
  ---
161
 
162
- ## 约束工程框架完备性矩阵
163
 
164
  **图例:** ✓ 完全支持 · ≈ 部分支持 · ✗ 缺失
165
 
@@ -178,7 +184,7 @@ size_categories:
178
  </thead>
179
  <tbody>
180
  <tr>
181
- <td rowspan="4"><strong>全栈式<br>约束工程</strong></td>
182
  <td>Claude Code</td>
183
  <td>✓</td><td>✓</td><td>✓</td><td>✓</td><td>✓</td><td>≈</td>
184
  </tr>
@@ -284,16 +290,16 @@ size_categories:
284
 
285
  ### 历史渊源
286
 
287
- #### 软件测试约束工程 (1990s–2000s)
288
 
289
  - <u>JUnit</u>: **"JUnit: A Cook's Tour"**. *Beck & Gamma.* Java Report, 4(5), May 1999. [[文章](http://junit.sourceforge.net/doc/cookstour/cookstour.htm)]
290
 
291
- #### 强化学习环境约束工程框架 (2016–2022)
292
 
293
  - <u>OpenAI Gym</u>: **"OpenAI Gym"**. *Brockman et al.* arXiv 2016. [[论文](https://arxiv.org/abs/1606.01540)] [[代码](https://github.com/openai/gym)]
294
  - <u>Gymnasium</u>: **"Gymnasium: A Standard Interface for Reinforcement Learning Environments"**. *Towers et al.* NeurIPS 2025. [[论文](https://arxiv.org/abs/2407.17032)] [[代码](https://github.com/Farama-Foundation/Gymnasium)]
295
 
296
- #### 早期LLM智能体框架 (2023–2024)
297
 
298
  - <u>ReAct</u>: **"ReAct: Synergizing Reasoning and Acting in Language Models"**. *Yao et al.* ICLR 2023. [[论文](https://arxiv.org/abs/2210.03629)] [[代码](https://github.com/ysymyth/ReAct)]
299
  - <u>Toolformer</u>: **"Toolformer: Language Models Can Teach Themselves to Use Tools"**. *Schick et al.* NeurIPS 2023. [[论文](https://arxiv.org/abs/2302.04761)]
@@ -302,15 +308,15 @@ size_categories:
302
 
303
  ---
304
 
305
- ### 约束工程框架分类
306
 
307
- **分类依据:**我们根据**约束工程完备性**对智能体系统进行分类——即每个系统实现了六个组件(E, T, C, S, L, V)中的哪些——从而区分全栈约束工程(全部六个组件)与专用框架(部分实现)。
308
 
309
- **重要性:**先前的分类法按应用领域(编程、网页导航、具身AI)或模型架构(单智能体、多智能体)对智能体进行分类。这些分类无法解释为何使用相似模型的系统会产生不同的可靠性结果。我们以约束工程框架为中心的分类法揭示,生产级系统收敛于完整的ETCSLV实现,而研究原型往往仅实现2-3个组件。
310
 
311
  **核心发现:**没有任何智能体框架能够在不实现**全部六个治理组件**的情况下达到生产可靠性。缺少L组件(生命周期钩子)的系统无法执行安全策略。缺少V组件(评估接口)的系统无法调试故障。缺少S组件(状态持久化)的系统无法从崩溃中恢复。
312
 
313
- #### 全栈式约束工程
314
 
315
  - <u>PRISM/OpenClaw</u>: **"OpenClaw PRISM: A Zero-Fork, Defense-in-Depth Runtime Security Layer for Tool-Augmented LLM Agents"**. *Li.* arXiv 2026. [[论文](https://arxiv.org/abs/2603.11853)]
316
  - <u>AIOS</u>: **"AIOS: LLM Agent Operating System"**. *Mei et al.* COLM 2025. [[论文](https://arxiv.org/abs/2403.16971)] [[代码](https://github.com/agiresearch/AIOS)]
@@ -318,7 +324,7 @@ size_categories:
318
  - <u>SWE-agent</u>: **"SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering"**. *Yang et al.* NeurIPS 2024. [[论文](https://arxiv.org/abs/2405.15793)] [[代码](https://github.com/SWE-agent/SWE-agent)]
319
  - <u>HAL</u>: **"Holistic Agent Leaderboard: The Missing Infrastructure for AI Agent Evaluation"**. *Kapoor et al.* ICLR 2026. [[论文](https://arxiv.org/abs/2510.11977)]
320
 
321
- #### 多智能体约束工程框架
322
 
323
  - <u>MetaGPT</u>: **"MetaGPT: Meta Programming for a Multi-Agent Collaborative Framework"**. *Hong et al.* ICLR 2024. [[论文](https://arxiv.org/abs/2308.00352)] [[代码](https://github.com/geekan/MetaGPT)]
324
  - <u>AutoGen</u>: **"AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation"**. *Wu et al.* arXiv 2023. [[论文](https://arxiv.org/abs/2308.08155)] [[代码](https://github.com/microsoft/autogen)]
@@ -352,7 +358,7 @@ size_categories:
352
 
353
  ### 技术挑战
354
 
355
- **范围界定:**我们识别了九项开放研究问题,当前约束工程设施针对这些问题仅提供了部分解决方案,而缺乏生产级、可推广的框架。每项挑战都代表了学术原型所展示的成果与已部署系统所需条件之间的差距。
356
 
357
  **评估标准:**对于每项挑战,我们评估:(1) **学术覆盖度**——同行评审解决方案(如有);(2) **生产成熟度**——是否有任何已部署系统在规模上解决了该问题;(3) **阻塞严重性**——未解决的问题是阻止部署还是仅限制性能。
358
 
@@ -364,7 +370,7 @@ size_categories:
364
 
365
  **技术现状:**SandboxEscapeBench 显示前沿模型能够逃逸容器;PRISM 展示了零分叉纵深防御是可能的,但需要操作系统级监测。尚不存在适用于所有智能体用例且无需人工逐任务配置的通用沙箱。
366
 
367
- **开放问题:**组合式安全属性(证明智能体+约束工程框架+环境满足安全规范)仍未解决。当前防御是反应式的(检测逃逸)而非预防式的(证明逃逸不可能)。
368
 
369
  > **关键数据:**SandboxEscapeBench——前沿LLM达到**15–35%容器逃逸率**;PRISM——10个钩子的零分叉运行时将逃逸降至接近零,开销<5ms。
370
 
@@ -466,7 +472,7 @@ size_categories:
466
 
467
  #### 多智能体协同
468
 
469
- > **关键数据:**AgencyBench——智能体在原生SDK约束工程上达到**48.4%成功率**,而在独立约束工程框架上显著更低,展示了约束工程-智能体的紧密耦合。对抗性多智能体设置中的拜占庭容错仍是开放问题。
470
 
471
  <p align="center">
472
  <img src="https://raw.githubusercontent.com/Gloriaameng/LLM-Agent-Harness-Survey/main/assets/multi_agent_topology.png" width="680" alt="多智能体协同拓扑"/>
@@ -519,14 +525,14 @@ size_categories:
519
 
520
  综述中识别的八个开放研究方向(无精选论文列表——这些是前瞻性方向):
521
 
522
- - **形式化约束工程规范语言** — 用于指定和验证 H=(E,T,C,S,L,V) 组件的领域特定语言(DSL)
523
- - **跨约束工程框架基准测试套件** — 跨不兼容执行器生态系统的可移植性测试
524
  - **安全分类与威胁模型** — 将OWASP Top 10扩展至智能体执行器攻击面
525
  - **协议互操作性(MCP/A2A)** — 桥接工具级和智能体级协议
526
  - **长时域评估方法论** — 在多会话、多天任务下不会退化的指标
527
- - **约束工程感知微调** — 训练模型使其感知执行环境
528
  - **记忆接口标准化** — 跨平面式、情节式和图式存储的可移植记忆API
529
- - **约束工程透明性规范** — 运行时决策的可审计性和可解释性
530
 
531
  ---
532
 
@@ -542,11 +548,12 @@ size_categories:
542
  |------|------|------|
543
  | v1 | 2026-04-03 | 首次预印本 |
544
  | v2 | 2026-04-07 | 仓库更新 |
 
545
 
546
  ---
547
 
548
  <p align="center">
549
  <i>† 表示预印本,尚未经同行评审。</i><br>
550
  <i>本综述正在积极开发中;完整手稿将于近期发布。</i><br>
551
- <i>由 Qianyu Meng, Yanan Wang 与 Liyi Chen 维护。欢迎提交缺失论文或更新链接的 PR。</i>
552
  </p>
 
21
 
22
  [English](README.md) | [中文](README_zh.md)
23
 
24
+ # Agent Harness综述
25
 
26
  [![GitHub Stars](https://img.shields.io/github/stars/Gloriaameng/LLM-Agent-Harness-Survey?style=social)](https://github.com/Gloriaameng/LLM-Agent-Harness-Survey/stargazers)
27
  [![License](https://img.shields.io/badge/License-CC--BY--4.0-blue.svg)](LICENSE)
28
  [![Papers](https://img.shields.io/badge/Papers-110%2B-green)]()
29
  [![Version](https://img.shields.io/badge/Version-v2-orange)]()
30
  [![HuggingFace](https://img.shields.io/badge/%F0%9F%A4%97-Dataset-yellow)](https://huggingface.co/datasets/GloriaaaM/LLM-Agent-Harness-Survey)
31
+ [![DOI](https://img.shields.io/badge/DOI-10.20944%2Fpreprints202604.0428.v2-blue)](https://www.preprints.org/manuscript/202604.0428/v2)
32
 
33
  </div>
34
 
35
  <p align="center">
36
+ <img src="assets/architecture_diagram.png" width="720" alt="H=(E,T,C,S,L,V) 六组件架构"/>
37
  </p>
38
 
39
+
40
  > ⭐ **本 survey 持续更新中。如果对你有帮助,欢迎 Star 关注最新进展,也帮助更多人发现它。**
41
 
42
  ---
43
 
44
+ > **Agent Harness——而非模型本身——是智能体大规模部署可靠性的首要决定因素。**
45
+ > 本综述将Agent Harness形式化为一级架构对象 **H = (E, T, C, S, L, V)**,系统调研了涵盖23个系统的110余篇论文、博客和报告,并总结了9项开放性技术挑战。
46
+ > 📄 **[阅读最新版论文 (PDF)](./Agent_Harness_for_LLM_Agents__A_Survey_v3.pdf)** (最新版本,目前在审
47
+ > 🌐 **[阅读 Preprints 版本 (v2)](https://www.preprints.org/manuscript/202604.0428/v2)**
48
+ > ✉️ 勘误与建议:gloriamenng@gmail.com; wangyanan@mail.dlut.edu.cn; chenliyi@xiaohongshu.com
49
 
50
  如果本综述对您有所帮助,请引用:
51
 
52
  ```bibtex
53
+ @article{meng2026agentharness,
54
  title = {Agent Harness for Large Language Model Agents: A Survey},
55
  author = {Meng, Qianyu* and Wang, Yanan* and Chen, Liyi and Wang, Qimeng and
56
  Lu, Chengqiang and Wu, Wei and Gao, Yan and Wu, Yi and Hu, Yao},
57
  year = {2026},
58
+ doi = {10.20944/preprints202604.0428.v2},
59
+ url = {https://www.preprints.org/manuscript/202604.0428/v2},
60
+ publisher = {Preprints},
61
+ note = {* Equal contribution. Under review, latest version available at: https://github.com/Gloriaameng/LLM-Agent-Harness-Survey}
62
  }
63
  ```
64
 
 
68
 
69
  - **[2026-04-03]** 首次发布
70
  - **[2026-04-07]** 仓库更新
71
+ - **[2026-04-07]** 预印本索引
72
 
73
  ---
74
 
 
76
 
77
  - [概述](#概述)
78
  - [历史时间线](#历史时间线)
79
+ - [Agent_Harness完备性矩阵](#Agent_Harness完备性矩阵)
80
  - [论文列表](#论文列表)
81
  - [历史渊源](#历史渊源)
82
+ - [Agent_Harness分类](#Agent_Harness分类)
83
  - [技术挑战](#技术挑战)
84
  - [安全与沙箱](#安全与沙箱)
85
  - [评估与基准测试](#评估与基准测试)
 
101
 
102
  大语言模型(LLM)智能体正日益部署于自主规划、工具使用和多步骤交互环境中。主流叙事将智能体性能归因于底层模型能力。**本综述挑战了这一假设。**
103
 
104
+ 我们提出了**Agent Harness**的形式化定义,将其定义为包含六个组件的元组:
105
 
106
  | 组件 | 符号 | 作用 |
107
  |------|------|------|
 
112
  | 生命周期钩子 | **L** | 认证,日志,策略执行,监测埋点 |
113
  | 评估接口 | **V** | 行动轨迹,中间状态,成功信号 |
114
 
115
+ **Agent Harness重要性的关键实证证据:**
116
+ - 🔥 Pi Research:Grok Code Fast 1 模型在 SWE-bench 上从 **6.7% → 68.3%**,仅通过修改Agent Harness的编辑工具格式——模型不变
117
  - 💀 OpenAI Codex:5个月内生成**100万行代码,0行手写**——失败归因��"环境规范不足"而非模型能力
118
+ - ⚡ Stripe Minions:**每周1300个PR,0行人工代码**——Agent Harness优先
119
+ - 📉 METR:通过基准测试的PR人工合并率**低24.2个百分点**,差距以9.6pp/年速度扩大——评估Agent Harness有效性危机
120
+ - 💬 *"Agent Harness是底盘;模型是引擎。"* ——2026年业界共识
121
 
122
  <p align="center">
123
+ <img src="assets/root_cause_diagram.png" width="640" alt="根因分析"/>
124
  </p>
125
 
126
  ### 本综述的学术贡献
127
 
128
+ **概念贡献:**我们将Agent Harness形式化为具有六个可治理组件(E, T, C, S, L, V)的架构对象,将其从隐式基础设施提升为显式研究目标。
129
 
130
+ **实证范围:**我们系统性地综述了110余篇论文,涵盖学术研究(评估基准、安全框架、记忆架构)和生产部署(Stripe、OpenAI、Cursor、METR),确立了Agent Harness设计是已部署智能体可靠性的约束瓶颈这一观点。
131
 
132
+ **方法论进展:**我们引入了**Agent Harness完备性矩阵**——一个结构化评估框架,映射每个系统实现了六个组件中的哪些——使得先前综述无法实现的异构智能体系统直接对比成为可能。
133
 
134
  **已识别的开放挑战:**我们记录了九项技术挑战,这些挑战当前研究仅提供了部分解决方案而无生产级基础设施:形式化安全模型、跨工程框架可移植性、协议互操作性(MCP/A2A)、百万级token/任务的上下文经济性、多智能体系统中的拜占庭容错、组合式验证。
135
 
 
142
  ## 历史时间线
143
 
144
  <p align="center">
145
+ <img src="assets/timeline.png" width="720" alt="Agent Harness的历史演进"/>
146
  </p>
147
 
148
  | 年份 | 里程碑 | 意义 |
149
  |------|--------|------|
150
+ | 1997–2005 | JUnit, TestNG, xUnit 家族 | 软件测试Harness范式;标准化观察-断言生命周期 |
151
+ | 2016 | OpenAI Gym (Brockman et al.) | 强化学习环境Harness框架;step/reset API 成为规范接口 |
152
  | 2022年11月 | ChatGPT 公开发布;LangChain 出现 | 面向LLM的智能体框架萌芽;工具使用成为一级公民 |
153
  | 2023 | ReAct, Toolformer, MemGPT, Reflexion, Voyager, AutoGPT | 核心智能体模式:推理-行动、记忆、反思、技能积累 |
154
+ | 2023 | CAMEL, ChatDev, Generative Agents | 多智能体协同;社会仿真Harness |
155
  | 2023 | AgentBench, SWE-bench | 智能体评估基础设施涌现 |
156
  | 2024 | MetaGPT, WebArena, ToolLLM, SWE-agent, OSWorld | 全栈执行器;真实世界环境基准测试 |
157
  | 2024 | CodeAct, LATS, Tree of Thoughts | 结构化动作空间;搜索增强规划 |
158
+ | 2024年11月 | Anthropic 发布 MCP 协议 | 首个主要工具↔Harness标准化(2–15ms延迟) |
159
  | 2025 | HAL, AIOS, LangGraph | 基准测试统一(21,730次评估);操作系统级调度(2.1×加速) |
160
  | 2025 | Google 发布 A2A 协议 | 智能体↔智能体标准化(50–200ms) |
161
  | 2025 | MemoryOS, SkillsBench†, AgentBound† | 记忆操作系统抽象;技能即上下文(+16.2pp);安全认证 |
 
165
 
166
  ---
167
 
168
+ ## Agent Harness完备性矩阵
169
 
170
  **图例:** ✓ 完全支持 · ≈ 部分支持 · ✗ 缺失
171
 
 
184
  </thead>
185
  <tbody>
186
  <tr>
187
+ <td rowspan="4"><strong>全栈式<br>Agent Harness</strong></td>
188
  <td>Claude Code</td>
189
  <td>✓</td><td>✓</td><td>✓</td><td>✓</td><td>✓</td><td>≈</td>
190
  </tr>
 
290
 
291
  ### 历史渊源
292
 
293
+ #### 软件测试Harness (1990s–2000s)
294
 
295
  - <u>JUnit</u>: **"JUnit: A Cook's Tour"**. *Beck & Gamma.* Java Report, 4(5), May 1999. [[文章](http://junit.sourceforge.net/doc/cookstour/cookstour.htm)]
296
 
297
+ #### 强化学习环境Harness框架 (2016–2022)
298
 
299
  - <u>OpenAI Gym</u>: **"OpenAI Gym"**. *Brockman et al.* arXiv 2016. [[论文](https://arxiv.org/abs/1606.01540)] [[代码](https://github.com/openai/gym)]
300
  - <u>Gymnasium</u>: **"Gymnasium: A Standard Interface for Reinforcement Learning Environments"**. *Towers et al.* NeurIPS 2025. [[论文](https://arxiv.org/abs/2407.17032)] [[代码](https://github.com/Farama-Foundation/Gymnasium)]
301
 
302
+ #### 早期LLM Agent Harness (2023–2024)
303
 
304
  - <u>ReAct</u>: **"ReAct: Synergizing Reasoning and Acting in Language Models"**. *Yao et al.* ICLR 2023. [[论文](https://arxiv.org/abs/2210.03629)] [[代码](https://github.com/ysymyth/ReAct)]
305
  - <u>Toolformer</u>: **"Toolformer: Language Models Can Teach Themselves to Use Tools"**. *Schick et al.* NeurIPS 2023. [[论文](https://arxiv.org/abs/2302.04761)]
 
308
 
309
  ---
310
 
311
+ ### Agent Harness分类
312
 
313
+ **分类依据:**我们根据**Agent Harness完备性**对智能体系统进行分类——即每个系统实现了六个组件(E, T, C, S, L, V)中的哪些——从而区分全栈Harness(全部六个组件)与专用框架(部分实现)。
314
 
315
+ **重要性:**先前的分类法按应用领域(编程、网页导航、具身AI)或模型架构(单智能体、多智能体)对智能体进行分类。这些分类无法解释为何使用相似模型的系统会产生不同的可靠性结果。我们以Agent Harness框架为中心的分类法揭示,生产级系统收敛于完整的ETCSLV实现,而研究原型往往仅实现2-3个组件。
316
 
317
  **核心发现:**没有任何智能体框架能够在不实现**全部六个治理组件**的情况下达到生产可靠性。缺少L组件(生命周期钩子)的系统无法执行安全策略。缺少V组件(评估接口)的系统无法调试故障。缺少S组件(状态持久化)的系统无法从崩溃中恢复。
318
 
319
+ #### 全栈式Agent Harness
320
 
321
  - <u>PRISM/OpenClaw</u>: **"OpenClaw PRISM: A Zero-Fork, Defense-in-Depth Runtime Security Layer for Tool-Augmented LLM Agents"**. *Li.* arXiv 2026. [[论文](https://arxiv.org/abs/2603.11853)]
322
  - <u>AIOS</u>: **"AIOS: LLM Agent Operating System"**. *Mei et al.* COLM 2025. [[论文](https://arxiv.org/abs/2403.16971)] [[代码](https://github.com/agiresearch/AIOS)]
 
324
  - <u>SWE-agent</u>: **"SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering"**. *Yang et al.* NeurIPS 2024. [[论文](https://arxiv.org/abs/2405.15793)] [[代码](https://github.com/SWE-agent/SWE-agent)]
325
  - <u>HAL</u>: **"Holistic Agent Leaderboard: The Missing Infrastructure for AI Agent Evaluation"**. *Kapoor et al.* ICLR 2026. [[论文](https://arxiv.org/abs/2510.11977)]
326
 
327
+ #### 多智能体Agent Harness
328
 
329
  - <u>MetaGPT</u>: **"MetaGPT: Meta Programming for a Multi-Agent Collaborative Framework"**. *Hong et al.* ICLR 2024. [[论文](https://arxiv.org/abs/2308.00352)] [[代码](https://github.com/geekan/MetaGPT)]
330
  - <u>AutoGen</u>: **"AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation"**. *Wu et al.* arXiv 2023. [[论文](https://arxiv.org/abs/2308.08155)] [[代码](https://github.com/microsoft/autogen)]
 
358
 
359
  ### 技术挑战
360
 
361
+ **范围界定:**我们识别了九项开放研究问题,当前Agent Harness��设施针对这些问题仅提供了部分解决方案,而缺乏生产级、可推广的框架。每项挑战都代表了学术原型所展示的成果与已部署系统所需条件之间的差距。
362
 
363
  **评估标准:**对于每项挑战,我们评估:(1) **学术覆盖度**——同行评审解决方案(如有);(2) **生产成熟度**——是否有任何已部署系统在规模上解决了该问题;(3) **阻塞严重性**——未解决的问题是阻止部署还是仅限制性能。
364
 
 
370
 
371
  **技术现状:**SandboxEscapeBench 显示前沿模型能够逃逸容器;PRISM 展示了零分叉纵深防御是可能的,但需要操作系统级监测。尚不存在适用于所有智能体用例且无需人工逐任务配置的通用沙箱。
372
 
373
+ **开放问题:**组合式安全属性(证明智能体+Harness+环境满足安全规范)仍未解决。当前防御是反应式的(检测逃逸)而非预防式的(证明逃逸不可能)。
374
 
375
  > **关键数据:**SandboxEscapeBench——前沿LLM达到**15–35%容器逃逸率**;PRISM——10个钩子的零分叉运行时将逃逸降至接近零,开销<5ms。
376
 
 
472
 
473
  #### 多智能体协同
474
 
475
+ > **关键数据:**AgencyBench——智能体在原生SDKAgent Harness上达到**48.4%成功率**,而在独立Agent Harness上显著更低,展示了Harness和Agent之间的紧密耦合。对抗性多智能体设置中的拜占庭容错仍是开放问题。
476
 
477
  <p align="center">
478
  <img src="https://raw.githubusercontent.com/Gloriaameng/LLM-Agent-Harness-Survey/main/assets/multi_agent_topology.png" width="680" alt="多智能体协同拓扑"/>
 
525
 
526
  综述中识别的八个开放研究方向(无精选论文列表——这些是前瞻性方向):
527
 
528
+ - **形式化Agent Harness规范语言** — 用于指定和验证 H=(E,T,C,S,L,V) 组件的领域特定语言(DSL)
529
+ - **跨Agent Harness基准测试套件** — 跨不兼容执行器生态系统的可移植性测试
530
  - **安全分类与威胁模型** — 将OWASP Top 10扩展至智能体执行器攻击面
531
  - **协议互操作性(MCP/A2A)** — 桥接工具级和智能体级协议
532
  - **长时域评估方法论** — 在多会话、多天任务下不会退化的指标
533
+ - **Agent Harness感知微调** — 训练模型使其感知执行环境
534
  - **记忆接口标准化** — 跨平面式、情节式和图式存储的可移植记忆API
535
+ - **Agent Harness透明性规范** — 运行时决策的可审计性和可解释性
536
 
537
  ---
538
 
 
548
  |------|------|------|
549
  | v1 | 2026-04-03 | 首次预印本 |
550
  | v2 | 2026-04-07 | 仓库更新 |
551
+ | v3 | 2026-04-09 | 预印本索引 |
552
 
553
  ---
554
 
555
  <p align="center">
556
  <i>† 表示预印本,尚未经同行评审。</i><br>
557
  <i>本综述正在积极开发中;完整手稿将于近期发布。</i><br>
558
+ <i>由 Qianyu Meng Yanan Wang与 Liyi Chen 维护。欢迎提交缺失论文或更新链接的 PR。</i>
559
  </p>