英伟达、思科等120家组织提议建立AI智能体事故追踪机制

据外媒Axios今日报道，包括英伟达、思科和CrowdStrike在内的120多个组织组成的联盟正在提议为AI智能体制定一个新的事件报告框架，该框架将要求参与公司披露某些智能体事故，并保存详细的事故记录。

随着AI智能体在计算机系统中获得越来越大的自主权，业界缺乏报告安全故障和从中吸取教训的标准方法。

The Open Secure AI Alliance（开放安全人工智能联盟）正在制定其所谓的“Shared AI Findings Exchange”（共享人工智能发现交流，SAFE）指南，这是一个关于如何报告涉及 AI 智能体网络安全事件的拟议框架。

该草案呼吁模型部署者、AI开发者、云和工具提供商、独立研究人员、关键基础设施运营商和其他团体参与，政府机构也将受邀作为“非控制性观察员”参与。

SAFE成员同意报告以下事件：AI系统未经授权访问或利用第三方系统、泄露机密信息，或在操作员怀疑活动未经授权后继续探测生产目标。

成员还会报告某些险些发生的事件，并保存事件证据，包括提示、智能体追踪、工具调用、身份、权限和凭证。

IT之家注意到，根据拟议的时间表，成员应在事故发生后尽快通知受影响的组织，在四个工作日内向SAFE提交初步保密报告，在适当情况下于30天内发布初步事实报告，并在90天内提供补救措施更新。

SAFE会分析事件，找出重复出现的故障，并提出共享的安全控制建议。

英伟达企业计算副总裁兼总经理Justin Boitano在黑帽子大会上告诉Axios，该计划以NASA的航空安全报告系统为蓝本，该系统可以使用飞机飞行记录器捕获的数据来调查事故。

该联盟认为，网络安全领域现有的共享威胁情报文化将使各公司无论如何都愿意参与其中。英伟达副首席信息安全官兼副总裁 Julien Soriano表示：“几乎没有遇到任何阻力。我们看到人们都愿意参与进来，他们渴望分享。”

开放安全人工智能联盟正在通过由Linux基金会主办的征求意见流程，就该提案征求社区的反馈意见。