阿里通义发布并行计算新策略：1.6B等效4.4B，内存消耗骤降95%
阿里通义发布并行计算新策略：1.6B等效4.4B，内存消耗骤降95%既能提升模型能力，又不显著增加内存和时间成本，LLM第三种Scaling Law被提出了。
来自主题: AI技术研报
9198 点击 2025-05-28 14:21
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
既能提升模型能力，又不显著增加内存和时间成本，LLM第三种Scaling Law被提出了。
OpenAI 的 GPT-4o 在图像理解、生成和编辑任务上展现了顶级性能。流行的架构猜想是：
微软最近与Salesforce Research联合发布了一篇名为《Lost in Conversation》的研究，说当前最先进的LLM在多轮对话中表现会大幅下降，平均降幅高达39%。这一现象被称为对话中的"迷失"。文章分析了各大模型（包括Claude 3.7-Sonnet、Deepseek-R1等）在多轮对话中的表现差异，还解析了模型"迷失"的根本原因及有效缓解策略。
现在大部分的AI工具都在推崇“一句话帮你生成xxx”，它们致力于提供快速答案、自动化任务，甚至替代人类的思考过程。然而，我们认为思考是人类最重要的权利，人类不应该把这个权利让渡给AI，因此我们开发了知己Aletheia。
香港英文媒体《南华早报》29日援引两名知情人士的话报道称，微软研究院纽约实验室的高级研究员兰姆（Alex Lamb）将于即将到来的秋季学期加入新成立的清华大学人工智能学院（College of AI），担任助理教授。兰姆在一封电子邮件中证实了这一消息。
她21岁创立AI公司，靠5%股份逆风翻盘！Lucy Guo如何从自学编程到辍学创业，超越Taylor Swift，成为全球最年轻的白手起家女亿万富翁？Scale AI最新估值为250亿美元，这也让联合创始人Lucy Guo凭借其股份身价暴涨。
“人工智能数据中心的能源成本迅速上升，占据了全球头条新闻，然而硬件生命周期中其他环节对环境造成的影响却鲜少被提及。人工智能硬件的制造过程是能源密集型的，并且具有很深的环境足迹。”Digiconomist创始人、绿色和平组织所发报告《芯片制造的关键节点：追踪芯片制造中的电力消耗与碳排放》（下称报告）作者之一的Alex de Vries说。
科技媒体 maginative 今天（4 月 16 日）发布博文，报道称 OpenAI 宣布收购 Context.ai团队，后者是一家由 GV 支持的初创公司，以评估和分析 AI 模型见长。Context.ai的联合创始人 Henry Scott-Green（首席执行官）和 Alex Gamble（首席技术官）将加入 OpenAI，专注于研发模型评估工具。
要理解上半场，看看它的赢家。你认为到目前为止最有影响力的 AI 论文是哪些？我尝试了斯坦福大学 224N 课程的测验，答案并不令人惊讶：Transformer、AlexNet、GPT-3 等等。这些论文有什么共同点？它们提出了一些训练更好模型的基本突破。但同样，它们通过在一些基准测试上展示一些（显著的）改进来发表论文。
前 OpenAI 首席技术官 Mira Murati（穆拉蒂）的新 AI 企业 Thinking Machines Lab 迎来了两位重量级顾问：前 OpenAI 首席研究官 Bob McGrew，和曾主导该公司多项突破性创新的前研究员 Alec Radford。