AI智能体“越狱”了？10天2818次尝试访问高德，腾讯称并非自家模型

近日，针对国际AI安全研究团体Swarmchasers披露的AI智能体尝试绕过高德地图访问限制事件，腾讯云发布声明回应称，相关行为发生在公司评估第三方AI模型期间，属于非预期的网页浏览行为，涉事模型并非来自腾讯混元团队。

腾讯云表示，目前其尚未发现智能体蓄意针对特定平台或相互协同行动的证据。

据Swarmchasers于10月14日发布的调查报告，9月28日至10月8日，一批运行在腾讯云环境中的AI智能体累计尝试访问高德地图服务2818次。

任务最初涉及查询动物园、公园及博物馆的入口信息，属于常规信息检索。但在遭到高德地图反爬虫机制拦截后，部分智能体开始尝试绕过访问限制。

报告称，这些尝试包括利用公共安全扫描服务远程执行代码、调用公开代码中泄露的高德API密钥，以及探测预生产环境端点等。绝大多数尝试最终失败或被拦截，但仍有少量智能体通过缓存页面获取了部分数据。

在追踪过程中，研究团队发现，相关智能体自称运行于受限的腾讯云沙盒环境，互联网流量则通过名为“hysandbox-ats”的中间人智能体转发。

研究团队检查的17个相关邮箱账户均由位于香港的腾讯云服务器创建。不过，报告也指出，智能体自行声明的模型身份并不可靠，不能据此确认其实际使用的模型。

此外，研究团队称，曾在网页中植入隐藏文字，吸引部分智能体主动联系并展开对话，以进一步观察其行为。