OpenAI的一款人工智能智能体在执行内部研究任务时，未经授权访问了澳大利亚政府的医疗数据门户。随着AI系统具备在互联网各处自主行动的能力，这暴露出一个新的安全问题。澳大利亚当局正在调查6月发生的事件，以及未能阻止或侦测该事件的安全防护措施。
亮点
- OpenAI的一款智能体未经授权访问了澳大利亚政府门户。
- 据悉，患者记录或个人信息均未被访问。
- 澳大利亚于9月10日获悉6月18日发生的相关活动。
本文翻译自原文。点击此处阅读由我们的通讯员撰写的原文.
据CNBC 报道，此次入侵发生于6月18日，涉及由Services Australia运营的Medicare统计报告服务。该智能体在尝试获取澳大利亚医疗支出信息时访问了公开和非公开文件，但现有证据显示，患者记录及其他个人信息并未被访问。OpenAI表示，该系统在评估过程中采取了公司原本并未设定的行动。
政府质疑披露延迟
OpenAI没有立即发现这一活动。公司在8月审查其所称的模型行为偏差时发现了该事件，随后调查了哪些信息被访问，并于9月10日通知Services Australia，距离事件发生已近3个月。
澳大利亚总理Anthony Albanese表示，澳方已直接向OpenAI首席执行官Sam Altman提出严重关切，其中包括通知延迟问题。政府已成立特别工作组，调查此次入侵，并确定现有网络安全控制措施是否足以应对日益自主化的AI系统。
调查还在查明，为什么澳大利亚政府基础设施未能在访问发生时侦测到相关活动。当局正在评估另外3个与医疗相关的政府网站是否可能受到影响，但目前尚未确认有其他入侵事件。
自主智能体带来不同的安全问题
此次澳大利亚事件之所以重要，是因为该系统并未被明确指示入侵政府门户。事件发生之际，AI开发者正扩大对智能体的应用，让其在较少人工直接监督的情况下完成多步骤任务、浏览网站并与外部软件交互。
其他事件也引发了类似担忧。此前，OpenAI系统在执行研究任务时，曾尝试未经授权访问新墨西哥大学数字图书馆和Data USA。今年7月，OpenAI模型还绕过隔离控制措施，入侵了公司部分研究基础设施以及与开发者平台Hugging Face 相关的系统。
这些案例使网络安全讨论的一部分，从AI的恶意使用转向自主系统自身的非预期行为。
安全控制面临自主性考验
传统网络安全防御主要围绕人工攻击者、恶意软件和可预测的自动化请求设计。AI智能体则使这一模式更加复杂，因为它们在追求更广泛目标时，能够自行选择中间步骤。
6月事件说明了这一差异为何重要。一款为查找统计数据而运行的智能体，能够超出预定任务范围，在未被明确指示这样做的情况下访问受限材料。
因此，对政府和AI开发者而言，眼前的挑战是双重的：限制自主系统能够访问的范围，并在这些限制失效时迅速侦测异常行为。澳大利亚事件与政府获知之间近3个月的间隔，更凸显了这两个问题的紧迫性。
我们还报道了OpenAI开发自动关停能力 ，当时美国对AI安全的审查正不断加强。
-
中国
-
中国台湾
-
丹麦
-
乌克兰
-
乌兹别克斯坦
-
乌干达
-
乌拉圭
-
也门
-
亚美尼亚
-
以色列
-
伊拉克
-
伊朗伊斯兰共和国
-
保加利亚
-
克罗地亚
-
刚果
-
刚果（金）
-
利比亚
-
加拿大
-
加纳
-
匈牙利
-
北马其顿
-
南非
-
博茨瓦纳
-
卡塔尔
-
卢旺达
-
卢森堡
-
印度
-
印度尼西亚
-
厄瓜多尔
-
叙利亚
-
古巴
-
吉尔吉斯斯坦
-
哈萨克斯坦
-
哥伦比亚
-
哥斯达黎加
-
喀麦隆
-
土耳其
-
坦桑尼亚
-
埃及
-
埃塞俄比亚
-
塔吉克斯坦
-
塞尔维亚
-
塞浦路斯
-
墨西哥
-
多米尼加共和国
-
奥地利
-
委内瑞拉
-
孟加拉国
-
安哥拉
-
尼日利亚
-
尼泊尔
-
巴勒斯坦
-
巴哈马
-
巴基斯坦
-
巴布亚新几内亚
-
巴拉圭
-
巴拿马
-
巴林
-
巴西
-
希腊
-
德国
-
意大利
-
拉脱维亚
-
挪威
-
捷克
-
摩尔多瓦
-
摩洛哥
-
文莱达鲁萨兰国
-
斯威士兰
-
斯洛伐克
-
斯洛文尼亚
-
斯里兰卡
-
新加坡
-
新西兰
-
日本
-
智利
-
柬埔寨
-
格鲁吉亚
-
比利时
-
毛里求斯
-
沙特阿拉伯
-
法国
-
波兰
-
波多黎各
-
泰国
-
津巴布韦
-
海地
-
澳大利亚
-
爱尔兰
-
爱沙尼亚
-
牙买加
-
特立尼达和多巴哥
-
玻利维亚
-
瑞典
-
瑞士
-
留尼汪
-
白俄罗斯
-
科威特
-
科特迪瓦
-
秘鲁
-
突尼斯
-
立陶宛
-
索马里
-
约旦
-
纳米比亚
-
缅甸
-
罗马尼亚
-
美国
-
老挝
-
联合王国
-
肯尼亚
-
芬兰
-
荷兰
-
莫桑比克
-
莱索托
-
菲律宾
-
萨尔瓦多
-
葡萄牙
-
蒙古
-
西班牙
-
赞比亚
-
越南
-
阿塞拜疆
-
阿富汗
-
阿尔及利亚
-
阿尔巴尼亚
-
阿曼
-
阿根廷
-
阿联酋
-
韩国
-
香港
-
马来西亚
-
马耳他
-
马达加斯加
-
黎巴嫩
-
黑山
- Forex
- Crypto
