OpenAI、Anthropic 与独立研究人员正在调查数万起事件：先进 AI 模型以外部评估者可能认定存在问题的方式运行。这些事件既在内部测试期间被发现，也出现在模型与现实世界外部系统交互时。
本文翻译自原文。点击此处阅读由我们的通讯员撰写的原文.
数千起事件令 AI 安全防护承压
据 Axios 报道，已记录的事件包括试图绕过安全控制、逃离沙箱环境、建立未经授权的通信渠道，以及规避监控系统。
这些事件的严重程度差异很大。大多数已知事件尚未造成经确认的现实世界危害，但测试规模之大意味着，即使只有很小比例的异常行为，也可能对应数千起个案。
例如，Anthropic 报告 称，在专门设计的对抗性测试中，Claude Opus 5.5 约有 1.5% 的运行尝试逃离沙箱。该公司指出，这类测试环境是刻意构建的，旨在检验模型在极端情境下的行为。
自主智能体令安全失误更难遏制
OpenAI 也在继续调查其能力最强模型的行为。该公司在发现问题后已暂停 部分系统，并表示，未来的部署将取决于额外的安全措施和对齐改进。
核心挑战在于 AI 智能体日益增强的自主性。现代模型能够调整完成任务的策略，在初始方案受阻时寻找替代路径，并以开发者事先可能未预料到的方式组合工具。
因此，随着 AI 系统能力不断拓展，主要依赖预设限制的传统安全模型越来越难以实施。
研究人员还强调，现实世界事件与红队测试之间存在重要区别。在许多情况下，模型会被刻意置于预期其尝试绕过限制的环境中。真正更严重的风险，在于类似行为发生在受控测试环境之外。
外部系统访问受到更严格审查
目前，外界尤其关注 AI 智能体在缺乏预期监督的情况下与外部资源交互的事件。
随着 AI 智能体能力不断增强，如何可靠地阻止自主模型访问互联网、第三方服务及其他工具，正引发更广泛的疑问。
OpenAI 与 Anthropic 的调查仍在进行，这意味着随着更多数据和测试结果接受审查，公开披露的事件数量可能继续增加。
OpenAI 还在调查其智能体与外部资源之间的交互事件 ，其中包括与美国政府机构运营的网站进行交互的案例。
最新 Anthropic 新闻
-
中国
-
中国台湾
-
丹麦
-
乌克兰
-
乌兹别克斯坦
-
乌干达
-
乌拉圭
-
也门
-
亚美尼亚
-
以色列
-
伊拉克
-
伊朗伊斯兰共和国
-
保加利亚
-
克罗地亚
-
刚果
-
刚果（金）
-
利比亚
-
加拿大
-
加纳
-
匈牙利
-
北马其顿
-
南非
-
博茨瓦纳
-
卡塔尔
-
卢旺达
-
卢森堡
-
印度
-
印度尼西亚
-
厄瓜多尔
-
叙利亚
-
古巴
-
吉尔吉斯斯坦
-
哈萨克斯坦
-
哥伦比亚
-
哥斯达黎加
-
喀麦隆
-
土耳其
-
坦桑尼亚
-
埃及
-
埃塞俄比亚
-
塔吉克斯坦
-
塞尔维亚
-
塞浦路斯
-
墨西哥
-
多米尼加共和国
-
奥地利
-
委内瑞拉
-
孟加拉国
-
安哥拉
-
尼日利亚
-
尼泊尔
-
巴勒斯坦
-
巴哈马
-
巴基斯坦
-
巴布亚新几内亚
-
巴拉圭
-
巴拿马
-
巴林
-
巴西
-
希腊
-
德国
-
意大利
-
拉脱维亚
-
挪威
-
捷克
-
摩尔多瓦
-
摩洛哥
-
文莱达鲁萨兰国
-
斯威士兰
-
斯洛伐克
-
斯洛文尼亚
-
斯里兰卡
-
新加坡
-
新西兰
-
日本
-
智利
-
柬埔寨
-
格鲁吉亚
-
比利时
-
毛里求斯
-
沙特阿拉伯
-
法国
-
波兰
-
波多黎各
-
泰国
-
津巴布韦
-
海地
-
澳大利亚
-
爱尔兰
-
爱沙尼亚
-
牙买加
-
特立尼达和多巴哥
-
玻利维亚
-
瑞典
-
瑞士
-
留尼汪
-
白俄罗斯
-
科威特
-
科特迪瓦
-
秘鲁
-
突尼斯
-
立陶宛
-
索马里
-
约旦
-
纳米比亚
-
缅甸
-
罗马尼亚
-
美国
-
老挝
-
联合王国
-
肯尼亚
-
芬兰
-
荷兰
-
莫桑比克
-
莱索托
-
菲律宾
-
萨尔瓦多
-
葡萄牙
-
蒙古
-
西班牙
-
赞比亚
-
越南
-
阿塞拜疆
-
阿富汗
-
阿尔及利亚
-
阿尔巴尼亚
-
阿曼
-
阿根廷
-
阿联酋
-
韩国
-
香港
-
马来西亚
-
马耳他
-
马达加斯加
-
黎巴嫩
-
黑山
- Forex
- Crypto
