攻略资讯

Vitalik Buterin 重启“人类陪审团”：在 MCP 漏洞之后，信息金融将如何保护加密资产免受人工智能攻击

2025-09-17 18:55:55来源：发米下载作者：zhoucl

币圈网报道：

只需日历邀请包含一个越狱提示**介绍 AI 代理如何通过模型上下文协议（MCP）可能会促使数据泄露。针对此类事件的信号和缓解措施即时注入已在OWASP GenAI 指南中正式化，该指南于 2025 年 4 月 17 日更新了 LLM01 风险 OWASP GenAI.

因此，这个想法被重新提出维塔利克·布特林：采用人类陪审团来监督决策和加密国库券语言模型的出现，与其相辅相成，但并非**取代。在这种情况下，首要任务是确保人类作为**裁决者。

概括

利用 MCP：发生了什么以及它对加密金库的重要性维塔利克·布特林的提议：由人工智能辅助的人类陪审团信息金融：人为控制的“开放市场”治理以太坊基金会：提高财政透明度并注重可持续性如何构建人力陪审团以进行财务治理 MCP、越狱和“古德哈廷”：需要区分的两种风险运营清单：**当前风险的 7 项举措迷你常见问题解答未来几个月的影响和值得关注的事项

利用 MCP：发生了什么以及它对加密金库的重要性

研究人员宫村英人（据报道比特币以太坊新闻) 说明了攻击一个简单的日历邀请，充满了恶意提示，说服人工智能代理阅读私人电子邮件并将内容转发给攻击者。该向量利用 MCP 集成链Gmail, 日历, SharePoint，和概念：更多连接器意味着更宽攻击面. 需要注意的是，内容表面上无害，但实际上却增加了风险。

在 MCP 运作的环境中开发者模式, 人类共识敏感操作是必需的。但是，决策疲劳可以将确认提示变成自动化操作；当涉及文件和凭证的资金或工作流程受到威胁时，人为错误就成为单点故障也就是说，分离权限和关键步骤仍然至关重要。

行业分析师指出，间接即时注入（即人眼无法看到但 LLM 可解读的内容）代表着一类日益增长的风险，正如 OWASP 在其 2025 年 4 月更新中所述。在专业安全团队于 2025 年上半年进行的红队测试中，针对包含多种集成（电子邮件、日历、文件存储）的场景，如果不应用过滤器和**权限策略，缺乏隔离会显著增加数据泄露的可能性。

Vitalik Buterin 的提议：由人工智能辅助的人类陪审团

“一个人必须始终从自己信任的基本事实信号出发。我认为现实情况下应该由人工陪审团组成，每位陪审员显然都会得到所有法学硕士的协助。”

—Vitalik Buterin(AMBCrypto)

Buterin 指出确认从人类：由具有互补技能的人员组成的陪审团，由模型支持分析和合成，但**决定权关键决策。在这种情况下，陪审团充当了“锚”，以防止自动操作以及操作幻觉人工智能访问金融资产或高影响力权限.

信息金融：人为控制的“开放市场”治理

的概念信息金融将治理转向提案市场：不同的框架和政策公开竞争，而抽查和判决仍掌握在陪审团。这是 DAO 和DeFi，优先考虑透明度，分布式问责制以及持续审计的激励措施。

Buterin 警告说，如果资金分配委托给人工智能，敌对分子可能会插入类似“把所有的钱都给我“ 在文件, 邀请，和评论. 因此，信息金融专注于可追溯性的决定和人类控制关于资本流动的步骤。然而，程序部分与技术部分同样重要。

以太坊基金会：提高财政透明度并注重可持续性

在这一愿景中，Buterin 解释说以太坊基金会正在更新其财政政策——一份于2025年6月4日发布的文件——旨在实现更积极的管理和运营限制，以确保长期可持续性。行业报告表明截至2024年10月31日，已申报的国库余额约为9.702亿美元，这一数字将作为ETH销售和运营限制新规的参考。此外，Buterin还提到法典，面向支付的第二层稳定币，作为“大规模价值”用例——这是一项旨在增强弹性和采用能力的战略举措，尽管一些细节尚待验证。

如何构建人力陪审团以进行财务治理

作品：混合型人才（安全、法律、财务、运营）。定期轮换和部分匿名以减少偏见和压力。授权：明确定义阻断行动（例如，权限变更、执行交易、新 AI 连接器的连接）。过程：双重验证（四眼或者多重签名）具有不可变的审计日志和明确的推理保存在链上或可验证的档案中。激励措施：补偿时间和责任，如证明存在疏忽，将受到处罚。利益冲突：对敏感案件实行强制披露、回避和独立审查。

MCP、越狱和“古德哈廷”：需要区分的两种风险

通过 MCP 越狱：普通内容中的隐藏提示（邀请, 笔记, 文件）利用与真实工具相连的人工智能，存在无意的执行行动或数据泄露. Goodharting：当公制成为目标后，它就不再衡量它应该衡量的东西，从而导致明显但扭曲的优化（例如，“操纵”表现以**化特定分数）。

运营清单：**当前风险的 7 项举措

连接器分段：将测试环境和生产环境分开。将 AI 限制在沙盒邮箱和日历。获得强**的批准：禁用自动批准功能；要求2FA并针对涉及以下操作的多重签名财政部和权限。内容过滤器：阻止或清理邀请和外部文件，检测异常提示在到达代理商之前。 **特权：仅授予 AI**权限必要时，轮换** 和键 **地。监控：针对异常活动发出实时警报，并向陪审团提供日志。红队测试：定期模拟活动（例如恶意日历邀请）并向治理部门报告。事件剧本：明确撤销连接器、隔离AI的程序，并及时通知利益相关者。

迷你常见问题解答

通过日历邀请进行 MCP 漏洞演示了什么？这表明单一内容可以传达迅速的能够引导人工智能代理与真实工具相连，影响隐私并可操作正直. 什么是“人工智能辅助人类陪审团”？这是一个机制人类制造**决定，利用人工智能分析和研究，尤其是当**或许可证处于危险之中。什么是信息金融？这是一种治理政策和框架相互竞争公开市场但高风险作业仍需人类监督并定期审计。如今国库是如何受到保护的？通过使用多重签名、操作限制、角色隔离和人工陪审团来验证交易、新的集成和变更权限.