标点符号成大模型训练神器！KV缓存狂减一半，可处理400万Tokens长序列，来自华为港大等 | 开源
标点符号成大模型训练神器！KV缓存狂减一半，可处理400万Tokens长序列，来自华为港大等 | 开源文字中貌似不起眼的标点符号，竟然可以显著加速大模型的训练和推理过程？
来自主题: AI技术研报
10108 点击 2025-03-04 10:08
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
文字中貌似不起眼的标点符号，竟然可以显著加速大模型的训练和推理过程？
所以作为一名AI爱好者，我整理了这份指南，希望能帮助刚接触AI的朋友们少走弯路，找到最适合自己的工具。需要说明的是，大多数AI产品在功能上其实有不少重叠。我在分类时主要考虑的是它们的核心优势和特长。比如DeepSeek虽然也是一款不错的AI对话工具，但我认为它在写作方面的表现最为出色，因此将它归入了AI写作工具类别。
今天，“AI 教父”Hinton 在 X 平台发文“手撕”马斯克，呼吁英国皇家学会将其除名，理由是马斯克对美国科学机构造成了巨大破坏。很快，马斯克现身评论区反击 Hinton：
某种程度上，DeepSeek破圈的短短一个月，已然成为智能革命时代的重要集体记忆。这一切是怎么开始的？又是怎样的传播路径？对于整个AI行业来说，这场“逆袭”般的破圈又有哪些新的启示？
近年来大语言模型（LLM）的迅猛发展正推动人工智能迈向多模态融合的新纪元。然而，现有主流多模态大模型（MLLM）依赖复杂的外部视觉模块（如 CLIP 或扩散模型），导致系统臃肿、扩展受限，成为跨模态智能进化的核心瓶颈。
2月26日，美光宣布已率先向生态系统合作伙伴及特定客户出货专为下一代CPU设计的 1γ(1-gamma) 第六代 (10纳米级) DRAM节点DDR5内存样品。
智东西3月3日报道，继2月22日超过豆包后，今日，腾讯旗下AI大模型应用腾讯元宝超过DeepSeek，登顶iOS免费App榜。近期借势DeepSeek，腾讯元宝存在感爆棚，密集上新：2月17日宣布已上线DeepSeek-R1 671B和腾讯混元深度思考模型Thinker（T1）；2月18日宣布调用腾讯元宝紧急支持微信搜索，让大家都能稳定体验和使用DeepSeek-R1；
最近，美国健康养生应用榜上出现了一个测算“死期”的AI应用——「死亡时钟」（Death Clock）。「死亡时钟」通过AI计算来告诉你还能活多长时间，精确到按秒来倒计时个人的寿命时间，并生成可分享的"死亡日卡片"。
一个人，只用3个小时，完全靠AI开发游戏，9天时间就赚了17360美元（折合人民币12.64万）。就是这样一个飞行模拟游戏，最近引来上千万人围观热议。
最近，谷歌与瑞士邮政下属的 Digitalidag 联合举办了一场提示词比赛，选手们的任务是编写提示词（指令），比如让 AI 助手制定一份详细的学习计划。Joakim Jardenberg 获得了本次比赛的亚军，Wrap News 对其进行了一场专访，就提示词的创作进行了交流。