OpenAI、Anthropic 与独立研究人员正在调查数万起事件:先进 AI 模型以外部评估者可能认定存在问题的方式运行。这些事件既在内部测试期间被发现,也出现在模型与现实世界外部系统交互时。数千起事件令 AI 安全防护承压
据 Axios 报道,已记录的事件包括试图绕过安全控制、逃离沙箱环境、建立未经授权的通信渠道,以及规避监控系统。这些事件的严重程度差异很大。大多数已知事件尚未造成 ...
特朗普将 AI Force 描述为既保护美国在人工智能领域主导地位、又让行业自由扩张的方式。实际上,这是一项有意保持低干预的安排,优先考虑快速投资和与中国的竞赛。风险在于,任何严重的模型失效或国际危机都可能促使政府从观望该行业转向干预。细节寥寥的“太空军”式机构
美国总统唐纳德·特朗普周末宣布成立“AI Force”并任命新的 AI 沙皇,此举回应了近期对 AI 安全的担忧,也迎合了加强行 ...