万分之一——大模型后训练中的极端稀疏监督
万分之一——大模型后训练中的极端稀疏监督亚马逊公司与杜克大学的研究表明，在大模型后训练的在线策略蒸馏（OPD）中，仅保留万分之一的极端稀疏监督信号即可显著提升学生模型的推理能力，且性能可匹配甚至超越密集全信号训练。
来自主题: AI技术研报
8558 点击 2026-10-04 22:03
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
亚马逊公司与杜克大学的研究表明，在大模型后训练的在线策略蒸馏（OPD）中，仅保留万分之一的极端稀疏监督信号即可显著提升学生模型的推理能力，且性能可匹配甚至超越密集全信号训练。
a16z最新90页报告《STATE OF MARKETS》指出，Alphabet、亚马逊、Meta、微软和甲骨文五家科技巨头2026年合计资本开支预计接近7770亿美元，AI建设正成为影响宏观经济的重要变量，供应链获得订单但回报兑现仍有先后，软件行业则进入"证明自己"的阶段。
9月18日，亚马逊云科技官宣，旗下大模型服务平台Bedrock正式托管Kimi K3。国产模型上线海外云平台并非新鲜事。但是作为开源模型，开始让美国云厂商愿意"交钱" ，Kimi确实是独一份。
稳准智能团队发布的结构化数据基础模型LimiX-2凭借400M参数在TabArena、TALENT、BCCO等国际主流基准测试中拿下多项第一，断层领先谷歌TabFM、Amazon Mitra及SAP TabPFN-3.5等模型。
"AI 不会替代人类，反而会承接大量低价值工作，让人类有时间去做一些创造性工作。"
2026年8月4日，第九巡回上诉法院发布了一份21页的判决书，撤销了亚马逊对Perplexity的初步禁令。
如果说大语言模型拉开了本轮人工智能革命的序幕，那么今天人机交互的瓶颈，早已不再是模型的智商，而是人类接收信息的生理带宽。
The Information刚刚爆料，OpenAI已经采购了数万台Mac mini和Mac Studio，到现在还在追着苹果要货。Anthropic走的是另一条路，从亚马逊AWS租Mac算力。按网友算的账，一台每小时一美元出头，一个月五百到九百多美元。
据 Business Insider 报道，开源 AI 平台 Hugging Face 正在评估外界的并购意向，并已委托一家投行接洽买家、摸底报价，潜在估值或达 130亿美元以上。Hugging Face 上一次融资是在 2023 年，当时估值约 45 亿美元，并获得 Google、亚马逊、英伟达、英特尔和 Salesforce 等公司的投资。
亚马逊AWS宣布Amazon Bedrock AgentCore Payments正式进入GA阶段。此前还只有一些简单付费场景的预览功能，现在已经可以让 AI Agent在用户授权和预算限制下，自主购买付费API、MCP服务、数字内容以及模型推理能力。