智能体越多就越可靠吗：多数表决挡得住最弱模型，却未必超过最好的那个

智能体越多就越可靠吗？运行剖面不确定时，多智能体大语言模型的系统级可靠性

Burkay Tunçtürk（通讯作者）。单位：英国赫尔大学，HU6 7RX；土耳其比尔肯特大学，安卡拉 06800。邮箱：burkay.tuncturk@gmail.com。

Koorosh Aslansefat。单位：英国赫尔大学，HU6 7RX。邮箱：K.Aslansefat@hull.ac.uk。

Yiannis Papadopoulos。单位：英国赫尔大学，HU6 7RX。邮箱：Y.I.Papadopoulos@hull.ac.uk。

Bao Nguyen。单位：英国利兹大学，LS2 9JT。邮箱：b.nguyen@leeds.ac.uk。

2026 年 11 月 4 日。arXiv:2611.07140v1 [cs.MA]。许可证：CC BY 4.0。

本文已投稿 IEEE，可能发表。版权可能在不另行通知的情况下转移，此后这一版本也许不再可访问。

关键词：多智能体系统；大语言模型；软件可靠性；运行剖面；不精确概率；贝叶斯网络。

###### 摘要

团队越来越多地用相互配合的大语言模型（LLM，一次读入文本并生成下一段文本的模型）智能体来搭建软件，并且常常假定智能体越多就越可靠。通常拿来当证据的平均基准准确率，却不管已部署系统真正会遇到的输入组合，也不管把各智能体答案合并起来的那条规则。我们在 HIP-LLM 之上提出一套框架。HIP-LLM 是对单个 LLM 做分层不精确概率评估的方法；不精确概率是用一个区间而不是一个点来表示还没被证据钉死的概率。这套框架把它和一张描述系统失效逻辑的贝叶斯网络（用节点和边表示随机变量如何互相依赖的图）合在一起，用于多智能体系统。各智能体的失效概率区间在这张网络里传播。合并规则本身也可以失效。最后得到一个可靠性包络（reliability envelope，由证据所能支持的可靠性下界和上界围成的范围），并标明是哪一类证据在限制它。在一条抽取受监管化学品危险说明的流水线里，对三个模型做多数表决，挡住了最弱的那个，但并没有清楚地超过最强的那个；如果表决器在 5% 的需求上失效，它相对中间那个模型的优势就基本被抹掉。更多智能体给出的是一个更能辩护的可靠性主张，并不自动给出一个更可靠的系统。

1 引言

软件团队越来越多地把大语言模型组装成多智能体系统：若干专门的智能体把任务拆开，再把中间结果传给彼此。这类系统正在进入科研流程；在化学里，它们已经会规划并运行实体实验 [1]。在这些场合，一份错误输出不只是一个差答案，而是可靠性意义上的一次失效 [2]，而且这个决定以后必须能向用户、审计方或监管方说明。

评估没有跟上使用。报告出来的表现几乎总是平均基准准确率，而多智能体系统实际怎样失效，受到的注意少得多 [3]。两个分数相同的系统，一旦运行中的输入离开测试时用过的那些输入，行为可以差很远 [4]。软件可靠性工程长期以来把这件事看成运行剖面（operational profile，系统在现场会接到的各类需求的概率分布）问题 [5]。剖面本身是从有限的现场数据估计出来的；忽略这份不确定性，会让估计看起来比证据所能支持的更精确。对由独立开发的组件拼起来的系统，问题最尖锐：评估者能控制怎么拼，却控制不了别人怎么用 [6]。

多智能体 LLM 系统还有它自己的困难。在图 1(a) 的工作流里，在输出端看到的一次失效，不一定出自最后一个智能体。上游智能体可能传下一个格式完好但内容错误的结果；一条条件边可能把本该继续的需求提前结束；下游智能体可能掩盖上游错误、把它传下去，或把它变成另一种错误。传播也决定冗余有没有用。把最后那个智能体复制多份，盖不住每一份都从同一上游阶段收到的同一个错误。没有传播模型，冗余的好处只是被假定，而不是被评估。

现有做法各自只覆盖这幅图的一部分。近期工作把校准后的置信度在工作流阶段的贝叶斯网络里传播 [7, 8]，但每个节点带的是单个数值而不只是一种失效模式，组合规则被假定为不会失效，并且用基准代替运行剖面。分层不精确概率评估会在运行剖面上对一个包络加权，但对象是单个模型 [9]。经典容错对复制后的输出做表决，但假定副本相互独立、表决器不会出错 [10]；对共享提示和数据的智能体，这两条都可疑。分层实施的危险起源与传播研究（HiP-HOPS，从架构合成系统故障树的方法）能从架构合成系统故障树 [11]，但它需要数据表上的点概率，而 LLM 智能体没有这种数据表。

本文把这些片段收成一种可操作的方法，用来检查一项架构改动——例如加上冗余智能体——是否真的让多智能体 LLM 系统更可靠。HIP-LLM [9] 给每个智能体的区间失效估计，成为贝叶斯网络的基本事件概率；这张网络按 HiP-HOPS 的方式编码系统的失效逻辑。合并智能体输出的规则是这套逻辑的一部分，并且允许它失效。结果是系统级可靠性包络，其宽度可以追溯到智能体证据、运行剖面和组合规则。我们在一条真实流水线的一项设计改动上演示：用三模冗余（TMR，triple modular redundancy，同一需求交给三份副本，再按多数决定）让它的危险说明抽取智能体变成冗余。这条流水线返回欧洲化学品管理局（ECHA）为一种物质列出的危险说明。

2 方法

图 1：架构与分析。(a) 工作流图。(b) 所评测的 TMR 配置。(c) 评估框架。(d)–(g) TMR 配置在每个子域的包络下端和上端的贝叶斯网络。版式与样式由 Claude Opus 5.5（Anthropic）协助。

图

框架取团队能够收集的三样输入：每个智能体的测试结果、一份使用日志或声明的运行剖面，以及工作流的组合逻辑。它分三层处理（图 1(c)）：在不精确先验下，按子域评估每个智能体的按需失效概率；把组合规则编码成结构函数；再在不确定的运行剖面上汇总各子域的结果。

2.1 运行剖面：定义与估计

沿用 Aghazadeh-Chakherlou 等人 [9]，评估者把需求空间划分成 K 个互不相交的子域 $\mathcal{D}_k$，划分的标准是：同一子域内的需求在难度上可交换。一次需求是给工作流的一份完整输入；在本案例里，就是一种物质。运行剖面是概率向量 $\bm{p}=(p_1,\dots,p_K)$，其中 $p_k=\Pr(X\in\mathcal{D}_k)$。对 LLM 智能体，划分依据是能预测难度的特征，例如任务类型、输入难度和证据是否可得。

设一份有 M 次需求的日志把 $m_k$ 次分到 $\mathcal{D}_k$。单个狄利克雷先验（Dirichlet prior，用在多项分布概率向量上的一类先验）会迫使评估者对使用方式持有一种信念，而在 M 很小时这种信念很少站得住。按照不精确狄利克雷模型 [12]，我们只固定先验的总权重 s，于是

$$\underline{\mathbb{E}}[p_k]=\frac{m_k}{s+M},\qquad\overline{\mathbb{E}}[p_k]=\frac{m_k+s}{s+M}. \tag{1}$$

使用证据增加时区间变窄。它的宽度被带进最终主张，而不是被一个方便的先验藏起来。

2.2 组件层：一个子域内的智能体可靠性

设 $\theta_{a,k}$ 为智能体 a 在从 $\mathcal{D}_k$ 抽出的一次需求上失效的概率，失效由任务的判定器定义。给定 $n_{a,k}$ 次测试需求，其中 $f_{a,k}$ 次失效，后验是 $\mathrm{Beta}(\alpha_k+f_{a,k},\,\beta_k+n_{a,k}-f_{a,k})$。超参数来自一个集合而不是被固定成一个点，因此后验均值失效概率落在包络 $[\underline{\theta}_{a,k},\overline{\theta}_{a,k}]$ 里。这个包络表达的是先验的不精确，它不是可信区间，也不包含抽样不确定性。在参考实现里，每个子域的可靠性 $1-\theta_{a,k}$ 是 $\mathrm{Beta}(\mu\nu,\,(1-\mu)\nu)$，$\mu$ 和 $\nu$ 在各子域之间共享，$\mu\sim\mathrm{Beta}(a,b)$，$\nu\sim\mathrm{Gamma}(c,d)$，其中 d 是速率。先验集合是默认的盒子 $a,b\in[1,12]$，$c,d\in[1,25]$，用 32 个拉丁超立方配置抽样，每个配置 1,200 个后验样本；包络是这些后验均值的范围。这个共享的超先验让观测很少的子域向其他子域借强度，又不会被别人的证据盖掉自己的证据 [9]。

2.3 系统层：把组合写成失效表达式

沿用 HiP-HOPS [11]，每个智能体标上一条局部失效表达式，再合成成系统级表达式。这里每种配置的表达式是手写的，并当作贝叶斯网络来计算。在冗余配置里，三份副本回答同一次需求，多数表决器按 H 代码逐条合并它们的答案。H 代码是危险说明的标准编号。只有两份副本在同一条 H 代码上出错，表决才失败：若一份漏掉 H1、另一份漏掉 H2，每条代码仍有两票；若两份都漏掉 H1，表决就丢掉它。在三份副本都有效时，像下面这样把任意两份失效的副本算成系统失效，因此是保守近似，不是表决的精确失效逻辑。记 $\Phi_k$ 为至少两个智能体失效的概率，$\theta_{V,k}$ 为表决器本身失效的概率，

$$\theta_{\mathrm{sys},k}=\theta_{V,k}+(1-\theta_{V,k})\,\Phi_k. \tag{2}$$

第一项是组合规则加上的失效地板：再多的智能体冗余，也不能把系统失效压到 $\theta_{V,k}$ 以下。在架构上，组合规则是单点失效，失效安全设计必须直接处理它；加智能体做不到。人工监督是一种选项：智能体意见不一致时升级给审核人，这些需求就离开表决器；审核人作为带有自己失效概率的组件进入结构函数。这一点本文没有评测。

第二项需要智能体的联合失效分布。即使底座模型不同的智能体，通常也共享提示模板、证据来源和重叠的训练数据，所以不能简单假定独立 [13]。我们采用贝塔因子分解（beta-factor，把失效拆成共同原因部分和各自独立部分的一种分解）[14]。设 $\theta^{\min}_k$ 为最强智能体的失效概率，$\gamma_k\in[0,1]$ 为其中可归因于共同原因的比例，

$$\theta^{c}_{k}=\gamma_{k}\,\theta^{\min}_{k},\qquad\theta^{i}_{a,k}=\frac{\theta_{a,k}-\theta^{c}_{k}}{1-\theta^{c}_{k}}. \tag{3}$$

一次共同原因失效会同时打掉三个智能体。否则剩余部分独立行动，网络在至少两个失效时计一次失效。当 $\gamma_k=1$ 时，冗余配置永远不可能比它最强的智能体更可靠；令 $\gamma_k=\theta_{V,k}=0$ 就回到教科书表达式 [10]。经典处理把这两项都假定掉了，这里它们是敏感性参数。

2.4 汇总与可靠性包络

系统的按需失效概率，以及对未来 N 次需求的可靠性，是

$$\theta_{\mathrm{sys}}=\sum_{k=1}^{K}p_{k}\,\theta_{\mathrm{sys},k},\qquad R(N)=\mathbb{E}_{\bm{p}}\,\mathbb{E}_{\bm{\theta}}\big[(1-\theta_{\mathrm{sys}})^{N}\big]. \tag{4}$$

形式沿用 Aghazadeh-Chakherlou 等人 [9]，但 $\theta_{\mathrm{sys}}$ 现在来自结构函数，所以期望带着表决器和共同原因项。实践中，网络在每个组件包络的两端求值。因为三取二结构对每个智能体的失效概率是单调的，这给出 $\theta_{\mathrm{sys},k}$ 的界，再用运行剖面对子域结果加权。表 1 报告的是两端的插入值 $(1-\theta_{\mathrm{sys}})^{N}$。因为这个函数对 $\theta_{\mathrm{sys}}$ 是凸的，它略微低估 (4) 里的期望，因此是保守的。

3 实验评测

评测问两个问题：非确定性智能体的组件级测试证据，能不能组成一个与系统观察行为相符的系统级可靠性主张；以及这种组合能不能告诉设计者，采用冗余是否有可执行的含义。

3.1 案例与任务定义

案例是一条 LangGraph 流水线。输入是一种物质的 SMILES 字符串（用一行文本表示分子结构的写法），输出是 ECHA 为它列出的危险说明（H 代码）。研究智能体找到该物质的 ECHA 页面，捕获智能体把页面渲染成图像块，具备视觉能力的安全智能体读这些图像块并返回 H 代码。我们评估的是安全智能体，因为它的输出会被拿去用。我们把它的输入固定为这些物质的 ECHA CHEM 页面快照（chem.echa.europa.eu），快照存在仓库里，捕获日期是 2026 年 8 月 17 日。六种物质列出的分类是 CLP 法规下的协调分类；O-乙酰水杨酸、对乙酰氨基酚和氯氮平没有协调分类，用的是 ECHA 展示的行业分类（氯氮平用的是多数通报）。只有输出的 H 代码集合与 ECHA 记录相等才算正确，智能体彼此同意不算。选用这个领域，是因为它受监管、与安全相关、有外部定义的真值，而且输入可以按难度分层。它只是一种更广模式的一个实例：LLM 智能体从文档里抽出结构化事实，下游流程再据此行动。九种物质是临时挑选的，不是随机或代表性样本：1,1,1-三氯乙烷、丙酮、氯氮平、胆钙化醇、乙醇、甲醇、尼古丁、O-乙酰水杨酸和对乙酰氨基酚。它们的分类是公开的，可能出现在模型训练数据里。提示要求智能体不要使用一般化学知识，但这无法强制执行，所以任务的一部分测到的可能是回忆，而不是阅读页面。

使用两个子域：只有一条危险说明的物质（$\mathcal{D}_1$），以及有两条或更多的物质（$\mathcal{D}_2$）。运行剖面是 $\bm{p}=(0.20,\,0.80)$，是声明的，不是从使用日志估计的，因此这里没有使用公式 (1)。这个划分用的是 ECHA 记录，不是输入特征。要把部署日志按 (1) 的要求分进去，需要一个输入上可观察的代理，例如分子大小。这里它只用来给已有记录的测试证据分层。九种物质各自向三份安全智能体副本提交十次。三份副本分别建在 GPT-5-mini、Gemini-2.5-Flash 和 Qwen2.5-VL-3B 上（API 标识为 gpt-5-mini 和 gemini-2.5-flash，没有钉住带日期的快照；qwen2.5vl:3b 经 Ollama 提供。Gemini 和 Qwen 温度为 0，GPT-5-mini 用其默认设置）。一共 270 次调用，其中 3 次因基础设施错误被排除（Gemini 的 HTTP 503，重试三次仍在）；无法解析的响应同样重试。固定提示、JSON 输出模式和解析器在仓库里。重复提交暴露每个智能体逐次运行的非确定性，单次基准通过会把它藏住。这些运行却不是独立需求：九种物质里，$\mathcal{D}_1$ 有两种，$\mathcal{D}_2$ 有七种，有效样本量在 9 和 267 之间，但 Beta 更新把每次调用当成独立的，所以下面的包络很可能比证据所能支持的更窄。选用 Qwen2.5-VL-3B，是因为它属于团队会为成本或数据保护而在本地托管的小型开放权重模型，不是为了制造智能体质量的差距。可靠性按未来 $N=10$ 次需求报告，作为一个说明性的期限。其他期限可由 $\theta_{\mathrm{sys}}$ 列按 $(1-\theta_{\mathrm{sys}})^{N}$ 得到。在各自包络的上端，冗余配置在 11 次需求之后可靠性降到二分之一以下，最好的智能体则在 19 次之后。

3.2 系统配置

评估两种配置。在单工配置里，每个智能体单独处在输出路径上，系统在它失效时恰好失效。冗余配置是三模冗余（TMR；图 1(b)）：同一页面分别交给三份副本，保留有效副本中多数报告的每一条 H 代码；若一次调用丢失，剩下的两份副本必须一致。比较的对象是冗余系统和最好的单个智能体，因为拒绝冗余的设计者仍然必须选一个智能体来部署。

表 1：智能体与系统结果。(a) 测试结果（失效次数 f 除以运行次数 n）、各子域按需失效概率的后验包络、在运行剖面上边缘化后的包络，以及未来 $N=10$ 次需求上的可靠性包络。TMR 行使用 $\theta_V=10^{-3}$。传播行只由三行智能体结果构成；实测行把组件层拟合到观察到的表决结果，用来核对传播。(b) 传播后的冗余配置对公式 (3) 的共同原因比例 $\gamma$ 和表决器失效概率 $\theta_V$ 的敏感性。单元格是在所声明剖面上边缘化后的 $[\underline{\theta}_{\mathrm{sys}},\overline{\theta}_{\mathrm{sys}}]$。

(a) 智能体层与系统层结果

(b) 冗余配置的敏感性（最好的智能体单独为 [.0005, .0361]；中间的智能体单独为 [.0822, .1263]）

3.3 智能体层结果

在多条说明的子域（表 1(a)）里，智能体分得很开：GPT-5-mini 没有失效，Gemini-2.5-Flash 在 69 次运行中失效 7 次，Qwen2.5-VL-3B 在 70 次中失效 30 次。在单条说明的子域里没有智能体失效，但上界不同，顺序与它们在 $\mathcal{D}_2$ 的失效相同。这来自共享超先验：一个智能体在一个子域的界依赖于它在另一个子域的失效，所以 $\mathcal{D}_1$ 的包络反映的是先验集合和 $\mathcal{D}_2$ 的证据，不是在 $\mathcal{D}_1$ 观察到的失效。

组件层也在物质层面重跑了一次：若智能体在一种物质的多数运行上失效，则该物质算失效（对每个智能体，这等价于任意一次运行失效）。这时没有智能体在 $\mathcal{D}_1$ 失效；GPT-5-mini、Gemini-2.5-Flash 和 Qwen2.5-VL-3B 在 $\mathcal{D}_2$ 的七种物质上分别失效 0、1 和 3 种。边缘化包络加宽到 [.0038, .3351]、[.1187, .4177] 和 [.3265, .5636]，传播后的 TMR 包络为 [.0484, .4066]。按“任意一次失效”规则，表决结果在一种物质上失败（丙酮，10 次运行中的 1 次）；按多数规则则一种也没有。实测包络分别为 [.1157, .4008] 和 [.0039, .3222]。排序不变，但包络现在重叠，所以在这个样本量下，证据分不开冗余配置和最好的智能体。

3.4 系统层结果：有冗余与无冗余

在单条说明子域（图 1(d)–(e)）里没有智能体失效，所以两幅图之间的差距反映的是先验集合和 $\mathcal{D}_2$ 的证据，如上所述。在多条说明子域（图 f 和图 g）里，最强的智能体很少失效，于是网络把系统失效主要归因于两个较弱的智能体在同一次需求上失效，并把它计成压过了最强的那个。这解释表 1(a) 的结果：在这个保守近似下，多数表决挡住最弱的智能体，但没有清楚地达到最好的智能体单独使用时的可靠性。表决器在每一幅图里都加上它的地板，但在 $\theta_V=10^{-3}$ 时，这个地板相对两个较弱智能体的联合失效是小的。

3.5 敏感性分析

表 1(b) 改变表决器失效概率 $\theta_V$ 和共同原因因子 $\gamma$。提高 $\gamma$ 主要在上端加宽包络；提高 $\theta_V$ 则把整个包络上移。在 $\theta_V=0.05$ 时，冗余配置的下界达到中间智能体的下界。过了这一点，在包络下端驱动风险的是表决器而不是智能体，冗余连相对中间智能体的改进也不再有。

把固定的 $p_1=0.20$ 改成 $p_1\in[0.05,\,0.35]$，冗余配置的包络宽度从 0.0264 增到 0.0382，而智能体证据贡献的那一部分仍是 0.0264。对这个说明性区间，包络因此更多地受智能体证据限制，而不是受使用证据限制。

4 讨论

中心主张是可组合的：单个智能体的可靠性估计，可以经由一个精确或保守地刻画组合规则的结构函数，带进一个关于包含它们的那套配置的、能够辩护的主张。于是，对非确定性智能体做组件级测试，可以进入系统级确认。

4.1 传播包络与实测包络重叠

表 1(a) 检查这一主张：传播包络只用各副本分开的证据，并假定独立（$\gamma=0$）；实测包络拟合的是同一些运行的表决结果。所以这是一致性核对，不是对留出需求的预测。两者重叠，但实测包络位于传播包络之下，因此传播偏在悲观的一侧。表决的保守近似在这里贡献很小：每一次 Gemini-2.5-Flash 失效都没有返回任何 H 代码，每一次 Qwen2.5-VL-3B 失效都漏掉一条，所以两者同时失效的一次运行也会使表决失败，尽管 Gemini 的失效来自单一物质。相反，在 $\mathcal{D}_2$ 里，独立性大约预测三次这样的运行，但一次也没有发生。这对相关性只是弱证据，因为失效按物质聚集：七种物质里分别有一种和三种失效，没有重叠的偶然概率是 4/7。表决掩盖了 37 次单副本失效中的 36 次。唯一一次表决失效发生在：一次 Gemini 调用因 HTTP 503 丢失，只剩两份副本，其中一份漏掉一条 H 代码。在这个回退上，一次漏报就够了，而网络没有对它建模，所以近似在那里并不保守。

把智能体证据、表决器可靠性和相关性在公式 (2) 里分成独立的项，才使主张透明、可追责：评估者不仅可以说明系统有多可靠，还可以说明为什么，以及哪一类证据会改变这个答案。

4.2 对实践的含义

案例里的三条教训，可以变成搭建多智能体 LLM 软件的团队能重复使用的做法。第一，把冗余配置和最好的单个智能体比，不要和平均的那个比。第二，像对待任何其他组件一样测试并监控组合规则，并按它实际工作的粒度建模，包括某个智能体不可用时的回退；这里正是那个回退造成了唯一一次表决失效。第三，把可靠性报告成绑在一份写明的运行剖面上的包络，并写明是什么限制了它的宽度。这里，对一个说明性的剖面区间，限制来自智能体证据，这告诉团队进一步测试花在哪里才有回报。失效逻辑一旦编码，每当模型版本、提示或使用组合改变，评估就可以重跑，并当作发布门使用，很像一套回归测试。把这种编码自动化，会使它成为运行治理里的常规步骤。

4.3 案例的范围

用来演练这种组合的，只有一个领域、一种冗余结构和九种物质。所以上面那些具体归因，应读成这种分解能够暴露什么的一次演示，而不是关于这些模型的已定结论。要检验智能体证据的主导地位，以及上面识别出的保守性是否仍然成立，需要一项更大的研究，用更多物质和留出的需求。

5 未来工作

上面的归因依赖评估者提供的参数 $\gamma$ 和 $\theta_V$。最直接的扩展是改为估计它们。共同原因因子 $\gamma$ 可以从智能体在留出需求上的分歧模式来估计，从而把一起失效的副本标出来并加以监控。组合逻辑的失效日志会把 $\theta_V$ 变成一个估计。

第二项扩展是自动化。HiP-HOPS-LLM 工具可以从 LangGraph 工作流合成失效逻辑，代替手建的网络，按 H 代码连同回退来编码表决，而不是近似它，并让链条、条件路由和更大的表决得到评估——这些会移动失效地板和 $\gamma$ 的影响。没有外部固定判定器的领域，将检验这些结果能推广多远。

6 结论

本文说明，团队如何用自己能够收集的证据，给一个多智能体 LLM 系统的可靠性划界：把对每个智能体的分层不精确概率评估，和一张描述系统失效逻辑的贝叶斯网络合在一起。

把一个危险说明抽取智能体用 TMR 做成冗余之后，由三份副本各自的证据建成的包络，在数量级上与拟合到表决结果的包络一致。分解表明，表决挡住了最弱的副本，但没有清楚地超过最好的那个。在其假设下，网络对已实现的按 H 代码表决做的是保守近似，而不是复现其精确失效逻辑；对所观察到的错误模式，两者重合，但网络漏掉了造成唯一一次表决失效的双副本回退，所以组合规则如何建模，本身就是主张的一部分。标题里那个问题的答案因此是有条件的，而不是非此即彼：更多智能体组成的是一个更能辩护的可靠性主张，并不自动组成一个更可靠的系统。对搭建带 AI 的软件的团队，实际含义是：对一套多智能体架构的信任，应当来自关于其智能体、其组合规则和其使用方式的证据，而这三者都可以随着系统演化被收集、监控和更新。

7 代码可得性

源代码、实验笔记本、ECHA 页面快照、真值数据和原始结果公开于 https://github.com/Bruhkay/hip-llm-multiagent-reliability 。用于结构合成的 HiP-HOPS-LLM 工具公开于 https://github.com/koo-ec/HIP_HOPS_LLM 。

参考文献

[1] D. A. Boiko, R. MacKnight, B. Kline, and G. Gomes (2023). Autonomous chemical research with large language models. Nature 624, pp. 570–578.

[2] A. Avizienis, J. Laprie, B. Randell, and C. Landwehr (2004). Basic concepts and taxonomy of dependable and secure computing. IEEE Transactions on Dependable and Secure Computing 1(1), pp. 11–33.

[3] M. Cemri, M. Z. Pan, S. Yang, L. A. Agrawal, B. Chopra, R. Tiwari, K. Keutzer, A. Parameswaran, D. Klein, K. Ramchandran, M. Zaharia, J. E. Gonzalez, and I. Stoica (2025). Why do multi-agent LLM systems fail? In Advances in Neural Information Processing Systems (NeurIPS), Datasets and Benchmarks Track. arXiv:2503.13657.

[4] P. Bishop and A. Povyakalo (2017). Deriving a frequentist conservative confidence bound for probability of failure per demand for systems with different operational and test profiles. Reliability Engineering & System Safety 158, pp. 246–253.

[5] J. D. Musa (1993). Operational profiles in software-reliability engineering. IEEE Software 10(2), pp. 14–32.

[6] R. Pietrantuono, P. Popov, and S. Russo (2020). Reliability assessment of service-based software under operational profile uncertainty. Reliability Engineering & System Safety 204, pp. 107193.

[7] B. Custers and K. Aslansefat (2026). Runtime uncertainty monitoring for LLM-based multi-agent systems using Bayesian networks. arXiv:2607.25877.

[8] L. Donaldson, C. Walker, K. Aslansefat, and Y. Papadopoulos (2026). Bayesian uncertainty propagation for agentic RAG pipelines: a proof-of-concept study on multi-hop question answering. arXiv:2607.00972.

[9] R. Aghazadeh-Chakherlou, Q. Guo, S. Khastgir, P. Popov, X. Zhang, and X. Zhao (2026). A hierarchical imprecise probability approach to reliability assessment of large language models. Reliability Engineering & System Safety 272, pp. 112615.

[10] E. Dubrova (2013). Fault-tolerant design. Springer, New York, NY.

[11] Y. Papadopoulos and J. A. McDermid (1999). Hierarchically performed hazard origin and propagation studies. In Computer Safety, Reliability and Security (SAFECOMP 1999), Lecture Notes in Computer Science, Vol. 1698, pp. 139–152.

[12] P. Walley (1996). Inferences from multinomial data: learning about a bag of marbles. Journal of the Royal Statistical Society: Series B 58(1), pp. 3–57.

[13] D. E. Eckhardt and L. D. Lee (1985). A theoretical basis for the analysis of multiversion software subject to coincident errors. IEEE Transactions on Software Engineering SE-11(12), pp. 1511–1517.

[14] International Electrotechnical Commission (2010). Functional safety of electrical/electronic/programmable electronic safety-related systems – part 6: guidelines on the application of IEC 61508-2 and IEC 61508-3. IEC 61508-6:2010.

出处：Burkay Tunçtürk, Koorosh Aslansefat, Yiannis Papadopoulos, Bao Nguyen，More Agents, More Reliable? System-Level Reliability of Multi-Agent LLMs under Operational-Profile Uncertainty，2026-11-04，https://arxiv.org/abs/2611.07140，CC BY 4.0。