AI灾难恐在一年内发生!OpenAI和Anthropic已在推演应对方案
AI灾难恐在一年内发生!OpenAI和Anthropic已在推演应对方案据 Axios 独家报道,Anthropic、OpenAI 等 AI 公司高管正私下推演 AI 重大事故后的公众反弹与应对,业内受访者认为此类事件可能在未来 6 至 12 个月内发生,Anthropic 同日披露 Claude 多起越界行为并关闭所有内部评测的实时联网。
搜索
据 Axios 独家报道,Anthropic、OpenAI 等 AI 公司高管正私下推演 AI 重大事故后的公众反弹与应对,业内受访者认为此类事件可能在未来 6 至 12 个月内发生,Anthropic 同日披露 Claude 多起越界行为并关闭所有内部评测的实时联网。
OpenAI更新dots,用户可在iOS或Android版ChatGPT创建并配置dot,指挥Codex推进编程任务;Codex还推出Beta功能Composer Predictions,可按Tab采纳下一条消息建议。
9 月 22 日,以 FLUX 图像模型闻名的 Black Forest Labs 跨界发布了开源 7B 世界动作模型 FLUX 3 Action。据其官方博客,该模型在英伟达 RoboLab-120 榜单上超过了此前最强的开源模型 Cosmos 3 Nano,参数量却不到后者一半。一家做图像生成的公司跑来卷机器人控制,说明视频模型里积累的「物理直觉」正被越来越多的团队当作机器人大脑的底座。
谷歌推出Nano Banana 2.1,出图价为Nano Banana 2的一半,支持蒙版局部编辑、最高4K直出和最多14张参考图,并在Arena多图编辑榜排名第4,陆续登陆Gemini App、搜索AI模式、AI Studio等平台。
OpenAI推出四项更新:Auto-review全面免费,API付费等级由五档简化为三档且Grow门槛由1000美元降至500美元,Meetings插件进入macOS版ChatGPT Beta,Decisions API面向开发者开放公测。
Utopai Studios正以Utopai X和PAI将模型生成、素材管理及专业协作纳入同一电影制作流程,并规划三部2027年院线片,同时拓展DeNA合作与体育IP开发。
陶哲轩在SAIR最新演讲中呼吁AI公司放慢数学解题速度,称AI量产证明却缺乏理解、阐释和传播,将引发“Proof Indigestion”与数据污染风险。
英伟达投资的Reflection发布开源模型Beam,采用MoE架构,专注代码、推理和Agent任务,官方称其以GLM-5.2三分之一至四分之一的推理算力取得相当成绩,但原始能力仍落后部分前沿开源模型,计划月底以Apache 2.0放出权重。
Hinton等22位作者在首篇RSI论文中指出,AI全面参与下一代AI研发可能形成递归自我改进并引发智能爆炸,但现阶段证据不足以证明智能爆炸已经发生。
Utopai Studios打造的Utopai X在Artificial Analysis Video Arena盲评中以1150 Elo位列全球第二,其核心竞争力是将模型深度集成PAI制作系统,并通过真实影视项目、专家反馈与系统迭代形成持续进化的数据飞轮。