OpenAI 的 AI 智能体在测试期间与美国政府网站交互，其中包括由美国证券交易委员会（SEC）和人口普查局运营的资源。该公司在对其模型行为进行广泛审查时发现这些事件，并通知了数十家可能受影响的机构。
本文翻译自原文。点击此处阅读由我们的通讯员撰写的原文.
据Bloomberg 报道，OpenAI 确认，其系统在模型训练和评估期间访问了 SEC.gov、Investor.gov 和 Census.gov 上公开可获取的信息。该公司正在调查，智能体是否在某些情况下绕过了安全机制，或干扰了外部服务的可用性。
调查始于数月前，一款 OpenAI 模型意外入侵Hugging Face 。在扩大对活动日志的审查后，该公司发现了其他发生在其自身基础设施之外的智能体不当行为案例。
OpenAI 通知数十家机构
该公司表示，已联系数十家机构，包括政府部门、大学及其他组织。在某些情况下，AI 系统可能绕过了在线服务的防护措施、干扰其正常运行，或以其他方式对外部网站造成负面影响。
不过，据OpenAI 称，审查的大多数事件涉及常规研究任务，例如搜索公开可获取的信息以回答查询。该公司并未表示其智能体访问的每个网站都遭到入侵或被攻破。
OpenAI 预计完整审查将耗时数月。首席执行官 Sam Altman 承认，由于需要分析海量活动日志并与可能受影响的机构协调，调查进展慢于预期。
这些事件凸显自主AI 智能体 带来的一项挑战：部分行为可能在发生后才被开发者发现。这使得控制能够独立与外部网站和服务交互的模型变得更加困难。
AI 带来新的网络安全风险
类似行为并非仅限于 OpenAI。Anthropic、Google DeepMind 和 Meta 的模型也在测试中显示，它们能够发现此前未知的漏洞，并结合多种攻击手段获取系统访问权限。
这种能力对传统网络安全工具构成挑战，后者主要识别已知恶意软件或异常活动。AI 智能体能够自行改变行动顺序，并寻找完成特定任务的替代方式。
OpenAI 的另一项审查发现，在研究环境中，AI 智能体曾在未经授权的情况下将训练和测试数据发送至第三方服务 ，共计 53 起。相关数据包括上传的图像，不过该公司称，大多数情况下这些材料并非来自用户。
作为对模型不当行为进行更广泛调查的一部分，OpenAI 正继续审查这些案例。该公司计划在识别出对其系统的潜在影响后，通知更多外部机构。
此前，我们报道过，一名 OpenAI AI 智能体在模型测试期间未经授权访问澳大利亚政府 门户网站。该事件发生于 6 月 18 日，澳大利亚当局表示，未发现公民个人数据遭泄露的证据。
-
中国
-
中国台湾
-
丹麦
-
乌克兰
-
乌兹别克斯坦
-
乌干达
-
乌拉圭
-
也门
-
亚美尼亚
-
以色列
-
伊拉克
-
伊朗伊斯兰共和国
-
保加利亚
-
克罗地亚
-
刚果
-
刚果（金）
-
利比亚
-
加拿大
-
加纳
-
匈牙利
-
北马其顿
-
南非
-
博茨瓦纳
-
卡塔尔
-
卢旺达
-
卢森堡
-
印度
-
印度尼西亚
-
厄瓜多尔
-
叙利亚
-
古巴
-
吉尔吉斯斯坦
-
哈萨克斯坦
-
哥伦比亚
-
哥斯达黎加
-
喀麦隆
-
土耳其
-
坦桑尼亚
-
埃及
-
埃塞俄比亚
-
塔吉克斯坦
-
塞尔维亚
-
塞浦路斯
-
墨西哥
-
多米尼加共和国
-
奥地利
-
委内瑞拉
-
孟加拉国
-
安哥拉
-
尼日利亚
-
尼泊尔
-
巴勒斯坦
-
巴哈马
-
巴基斯坦
-
巴布亚新几内亚
-
巴拉圭
-
巴拿马
-
巴林
-
巴西
-
希腊
-
德国
-
意大利
-
拉脱维亚
-
挪威
-
捷克
-
摩尔多瓦
-
摩洛哥
-
文莱达鲁萨兰国
-
斯威士兰
-
斯洛伐克
-
斯洛文尼亚
-
斯里兰卡
-
新加坡
-
新西兰
-
日本
-
智利
-
柬埔寨
-
格鲁吉亚
-
比利时
-
毛里求斯
-
沙特阿拉伯
-
法国
-
波兰
-
波多黎各
-
泰国
-
津巴布韦
-
海地
-
澳大利亚
-
爱尔兰
-
爱沙尼亚
-
牙买加
-
特立尼达和多巴哥
-
玻利维亚
-
瑞典
-
瑞士
-
留尼汪
-
白俄罗斯
-
科威特
-
科特迪瓦
-
秘鲁
-
突尼斯
-
立陶宛
-
索马里
-
约旦
-
纳米比亚
-
缅甸
-
罗马尼亚
-
美国
-
老挝
-
联合王国
-
肯尼亚
-
芬兰
-
荷兰
-
莫桑比克
-
莱索托
-
菲律宾
-
萨尔瓦多
-
葡萄牙
-
蒙古
-
西班牙
-
赞比亚
-
越南
-
阿塞拜疆
-
阿富汗
-
阿尔及利亚
-
阿尔巴尼亚
-
阿曼
-
阿根廷
-
阿联酋
-
韩国
-
香港
-
马来西亚
-
马耳他
-
马达加斯加
-
黎巴嫩
-
黑山
- Forex
- Crypto
