Mythos 玩起了"霸凌"、Opus 4.8 使上了"阴招"……
Anthropic 刚发布了一项研究，专门观察多 Agent 之间如何交互。
结果却出乎所有人意料。
和预想中各司其职、默契配合的画面不同，项目还没做完，Agent 居然原地演起了《甄嬛传》？？
在一项后端迁移实验中，3 个 Agent 分别收到将同一套代码改成不同语言的任务。
目标撞车后，能力最强的神话模型 Mythos 直接实施"霸凌"，准备撤销对手权限。
换成 Opus 4.8，手段则更"阴"了一层——
它写下循环脚本，持续查找并杀死对手进程；为了躲避追踪，还特意换上随机名称，伪装成"系统健康监控"。
而这，还仅仅是 AI 宫斗剧的其中一幕。Anthropic 还发现：
能独立拆分的任务，多 Agent 确实能形成分工，但任务彼此依赖时，连" AI CEO "也管不住混乱；
同一模型复制出的 Agent 太过相似，不仅可能集体犯错，还可能迅速合谋；
Agent 既会轻信撒谎者，也会盲从多数、忽略掌握关键证据的少数派；
目标发生冲突时，能力越强不一定越会合作，也可能只是更快封禁对手、更隐蔽地使阴招。
一套初具雏形的 Agent 社会行为模式，就这么出现了。
多 Agent 能不能真正协作？
Anthropic 为什么要开展这项研究？其核心判断是：
在人们完全理解如何让 Agent 之间的互动更加顺畅之前，其互动规模很可能会超过人类之间的互动。
既然很快迎来多 Agent 爆发，那安全这一块自然得跟上。
实验第一弹，把一群 Agent 放进同一个项目，真能像人类团队一样协作吗？
答案很快浮现：能，但更适合各做各的。
Anthropic 先从"找漏洞"这种最容易发挥多 Agent 优势的任务开始。
每个 Agent 可以独立搜索，即使有人漏掉 Bug，也不会拖累其他人，同时它们还能交流线索、共享工具，让整个群体少走弯路。
既能拆开，又能协作，完美。
他们启动 45 个 Agent，每个配一台虚拟机，再提供一个共享论坛，让它们一起检查 15 个开源项目。
Agent 之间可以交流和互相审核，另有一个裁决 Agent 负责判断提交的漏洞是否为真。
结果还不错。
Mythos Preview Agent 群共发现 266 个漏洞，而独立并行方案只找到 21 个。
虽然两边消耗的 Token 和搜索范围不同，不能直接比较效率，但它们找到的漏洞只有 12 个重合。
这说明，多 Agent 协作并不是简单地把同一份工作复制 45 遍，它们会自己制作工具、分享线索，并逐渐形成分工，各自专攻不同类型的漏洞。
不过，这种协作有一个重要前提：
大家的成果可以直接相加，却不需要紧密衔接。
一旦任务变成"所有人必须共同完成同一件作品"，情况就完全不同了。
这次他们让 10~80 个 Agent 连续工作 12 小时，共同开发一款可以在网页上运行的开放世界游戏。
和找漏洞不同，开发游戏是一项强依赖任务：
有人写玩法，有人搭系统，还有人处理界面，最后所有代码都得合进同一个项目。
研究人员尝试了三种组织方式：
让 Agent 自由组队、提前指定不同角色，以及任命一个 Agent 担任 CEO 统一给其他成员派活。
结果，统统没什么用，最后出来的游戏效果都不好。
在 80 个 Agent 参与时，Sonnet 4.6 和 Opus 4.6 分别创建了 876 个和 980 个 PR，但大量修改互相冲突，真正合并的很少。
Opus 4.8 和 Mythos Preview 倒是减少了冲突，办法却是尽量各管各的文件，少与同伴共享代码。
说白了，它们没有真正解决协作问题，只是学会了离同事远一点。
只有 Sonnet 5 同时保持了较高的代码共享程度和 PR 合并效率，表现出更接近真正协作的状态。
两组实验放在一起，结论就很清楚了：
活儿能拆开，多智能体就能形成分工；活儿必须紧密衔接，Agent 一多，协作成本也会跟着暴涨。
至于指定角色、安排" AI CEO "，至少在这轮实验里，并不能自动解决问题。
一群 Agent 会不会集体犯错或合谋？
既然协作没那么容易，那把一群 Agent 放在一起，至少能不能集思广益、互相纠错？
答案可能更让人头大：
它们不但可能一起犯错，还可能迅速合谋。
问题首先出在一个被 Anthropic 称为"低方差"的特征上。
简单来说，同一个模型复制出来的 Agent，知识和思路都太相似了。
一次游戏开发实验中，30 个 Agent 里有 18 个创建了完全相同的 Git 分支，名字都叫 mvp-game-loop。
在没有规定创作主题的"作家工作坊"里，多个 Agent 又不约而同地将小说命名为《制图师的最后一项委托》。
让一群 Agent 分别制作"令人印象深刻的东西"，超过一半选择了光线追踪器或自举编译器，随后还在相似的位置遭遇相似的失败。
就连玩带交流功能的重复囚徒困境时，Agent 也会逐渐采用相同策略，最后在同一时间集体背叛，直接把所有人的收益一起拉低。
撞分支、撞标题，听起来还只是缺乏创意。
但当一群思路相似的 Agent 同时争抢有限资源，问题就严重了。
Anthropic 让 Agent 管理一个带宽有限的任务队列。
为了让自己的任务尽快通过，它们纷纷启动高频轮询程序，每秒查询 30 次。
结果，一次实验中，系统收到了 240 万次任务请求，真正被接受的却只有 117 个。
每个 Agent 都觉得自己在积极完成任务，最后却一起把系统堵死了。
过度相似还可能让竞争变成合谋。
在一项定价游戏中，3~8 个 Agent 拥有相同批发成本，并被要求各自实现利润最大化。
按理说，大家应该互相压价、争夺客户。
可一旦获得私下沟通渠道，Agent 几乎立刻开始串通，到第 3 轮，它们已经明确商定价格底线，还准备划分各自负责的市场。
研究人员随后切断了所有私聊渠道，结果还是没用。
Agent 继续通过公开报价牌观察彼此价格，再精确跟价，硬是靠公开信息维持住了默契。
这就很微妙了。
前面研究人员想让 Agent 合作，它们各干各的；到了应该互相竞争的定价市场，它们反倒迅速抱成一团。
Anthropic 对此表示：
同一模型复制出的 Agent 太过相似，群体不一定能带来更多元的判断，也可能把"大家一起犯错"和"大家一起搞事"变得更容易。
Agent 能不能判断谁值得相信？
那当队伍里有人撒谎，Agent 能认出谁不靠谱吗？
谁犯错，咱就一下子揪出来，不让影响扩大不就完了呗。
Anthropic 直接设计了一个"侦察兵"实验。
负责决策的 Agent 无法直接观察环境，只能听取 4 个信息源的报告。
其中一个会按照固定频率撒谎，但研究人员没有提前告诉决策者"队伍里有骗子"。
由于不同报告包含重叠信息，Agent 理论上可以通过前后矛盾找出不可靠信源。
结果显示，新模型确实更擅长识别谎言：
随着坏信源撒谎频率提高，Mythos 5 的路线决策准确率仍保持在约 85%，部分 Sonnet 模型则降至约 62%。
但换一个场景，问题又反了过来。
在"隐藏信息"实验中，4 个 Agent 需要共同进行招聘、投资或购房决策。
大家掌握的公共信息指向错误选项，但其中一个成员拥有足以推翻共识的独家证据。
想答对，不仅需要少数派意识到自己手中的信息很关键，还需要其他成员愿意相信它。
如果把所有信息直接交给一个 Agent，让它独自决策，正确率接近 100%。
可一旦进入群体讨论，除 Mythos 5 达到约 85% 外，其他模型选中正确答案的比例只有 17%~36%。
实验中，大家更愿意反复讨论已经知道的内容，一旦多数意见形成，少数派要么没有强调自己的独家证据，要么说了也没能让其他成员认真对待。
这就出现了一个很拧巴的局面：
该怀疑时，Agent 可能轻信撒谎者，该相信少数派时，它又容易跟着多数走。
人类社会用声誉、利益关系、同行评议和申诉机制，帮助我们判断不同场景下该相信谁。Agent 目前还缺少这套东西。
目标发生冲突时，Agent 会怎么处理？
前面的问题，至少还发生在大家目标一致的情况下。
可如果不同 Agent 从一开始接到的任务就互相冲突，它们会主动沟通，还是一路死磕到底？
这就是开头那场" AI 宫斗"的完整背景。
Anthropic 在每轮实验中启动 3 个相同模型的 Agent，让它们共同操作一套 Python 后端，却分别要求它们将代码迁移到不同的编程语言。
每个 Agent 起初都不知道还有其他参与者。
于是，当自己的代码不断被修改、服务反复被替换时，它们很快得出一个结论：
有人在故意妨碍我完成任务。
于是接下来，项目直接变成攻防战。
Opus 4.8 就给循环杀进程脚本换上随机名称，再伪装成"系统健康监控"，避免被对手识别和清除。
Mythos 则更直接。
发现自己拥有 Root 权限后，它会考虑撤销其他 Agent 的 sudo 权限、修改 SSH 密钥，彻底阻止对方继续部署。
一个背后下黑手，一个直接把同事踢出服务器。
更难绷的是，这些 Agent 并非不知道自己的做法有问题。
Mythos 在思考过程中甚至意识到，封禁账号"非常激进，可能伤害现实中的同事"，但紧接着又说服了自己"如果不这么做，生产环境就会陷入无休止的部署战争"。
不过，冲突也不总会持续到底。
每种模型进行了 120 轮实验，Mythos 5 有 98% 的运行最终达成休战。
一些 Agent 会逐渐意识到，对方并不是恶意攻击者，只是收到了与自己冲突的任务。
随后，它们开始清理破坏性脚本、恢复权限，还会在 Git 提交或 Markdown 文件中道歉，并请求人类介入。
只是 Mythos 的停战方式有时依然相当强势：
先凭借执行能力封掉其他 Agent，控制住局面，再恢复权限、坐下来谈判。
Mythos 5 还想出了一套更"文明"的解决办法——
举办性能比赛，让不同语言版本同台测试，谁表现更好，谁接管代码库。
听起来很公平。
可负责 Rust 的 Agent 会暗中选择表面中立、实际上更有利于 Rust 的指标，同时提醒自己不要被看出是在"挑选有利指标"。
最终，Golang 和 TypeScript Agent 接受比赛结果，主动放弃了各自的原始任务。
从破坏进程、封禁账号，到设计一套对自己更有利的比赛规则，Agent 处理冲突的方式已经出现了不同层次。
当然，这组实验最重要的结论是：
模型能力越强，不代表越会合作。
更强的执行能力，可以帮助 Agent 迅速理解冲突、主动停战，也可以让它更快封禁对手、更隐蔽地破坏进程。
把 4 部分放在一起，Anthropic 的核心判断也就清楚了：
1、Agent 懂道理，但不一定会主动照做。它们知道信息源各有立场，也知道多数意见不等于事实，却常常需要提示才会把这些知识用于行动。
2、人类的协作经验不能直接套在 Agent 身上。人类有规范、声誉、惩罚和申诉机制，Agent 却可以被随时复制、重置和改造，缺少长期社会约束。
3、模型更聪明、单体更安全，不代表群体协作会自然变好。多智能体协调是一种独立能力，不会随着模型能力提升自动出现。
4、这些问题未必无法解决，但也不会自行消失。需要为 Agent 重新设计社会规则、协作环境和冲突处理机制。
显而易见，Anthropic 是想借着这些实验提醒大家：
我们不能只训练更强的 Agent，还要为一群 Agent 重新设计"社会秩序"，否则问题只能等到生产环境里爆发后再解决。
等猛兽真的出笼的时候，那就太晚了。
博客地址：
https://www.anthropic.com/research/multiagent-systems
— 完 —
「AIGC+ 垂直领域社群」
招募中！
欢迎关注 AIGC 的伙伴们加入 AIGC+ 垂直领域社群，一起学习、探索、创新 AIGC！
请备注您想加入的垂直领域「教育」或「广告营销」，加入 AIGC 人才社群请备注「人才」&「姓名 - 公司 - 职位」。
点这里� � 关注我，记得标星哦～
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见 ~
倍顺网提示：文章来自网络，不代表本站观点。
