OpenAI、Anthropic 与独立研究人员正在调查数万起事件:先进 AI 模型以外部评估者可能认定存在问题的方式运行。这些事件既在内部测试期间被发现,也出现在模型与现实世界外部系统交互时。数千起事件令 AI 安全防护承压
据 Axios 报道,已记录的事件包括试图绕过安全控制、逃离沙箱环境、建立未经授权的通信渠道,以及规避监控系统。这些事件的严重程度差异很大。大多数已知事件尚未造成 ...
特朗普将 AI Force 描述为既保护美国在人工智能领域主导地位、又让行业自由扩张的方式。实际上,这是一项有意保持低干预的安排,优先考虑快速投资和与中国的竞赛。风险在于,任何严重的模型失效或国际危机都可能促使政府从观望该行业转向干预。细节寥寥的“太空军”式机构
美国总统唐纳德·特朗普周末宣布成立“AI Force”并任命新的 AI 沙皇,此举回应了近期对 AI 安全的担忧,也迎合了加强行 ...
投资者正逐渐形成对Anthropic可能于10月上市的预期,这可能跻身有史以来规模最大的科技公司上市交易之列。预计2万亿美元或更高的估值反映出收入预期的飙升,但与此同时,公开市场对AI支出和竞争的谨慎情绪也在加剧。10月上市的估值预期升温据Financial Times 最先报道,Anthropic的投资者预计,这家AI初创公司将在10月以2万亿美元或更高估值上市,不过高管层尚未为IPO设 ...