陈丹琦团队新作：Llama-2上下文扩展至128k，10倍吞吐量仅需1/6内存
陈丹琦团队新作：Llama-2上下文扩展至128k，10倍吞吐量仅需1/6内存陈丹琦团队刚刚发布了一种新的LLM上下文窗口扩展方法：它仅用8k大小的token文档进行训练，就能将Llama-2窗口扩展至128k。
来自主题: AI技术研报
11059 点击 2024-02-29 13:27
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
陈丹琦团队刚刚发布了一种新的LLM上下文窗口扩展方法：它仅用8k大小的token文档进行训练，就能将Llama-2窗口扩展至128k。
北京时间2月28日港股盘后，百度（9888.HK；BIDU.O）发布了2023年第四季度财报。
SemiAnalysis的行业专家对最近爆火的Groq推理系统进行了像素级的拆解，测算出其持有成本依然高达现有H100的10倍，看来要赶上老黄的步伐，初创公司还有很多要做。
刚刚，Sora第二波视频放出了！稳定的一致性和模拟现实的逼真度，简直让人惊掉下巴。在好莱坞，已经有导演撤掉自己的8亿美元工作室扩建计划了。
2024年的春天，人类是正在吹起一个史无前例的超级人工智能泡沫，还是开启一个远超工业革命的大繁荣周期，无论是黄仁勋，还是奥特曼和马斯克都是乐观的一方。马斯克略带伤感的回忆8年前黄仁勋向OpenAI赠送Ai系统的一幕，是他无奈的接受超级人工智能的路线之争刚刚开始。
几天前，ICLR 2024 的最终接收结果出来了。
谷歌团队推出「通用视觉编码器」VideoPrism，在3600万高质量视频字幕对和5.82亿个视频剪辑的数据集上完成了训练，性能刷新30项SOTA。
距离YOLOv8发布仅1年的时间，v9诞生了！
继 2023 年 1 月 YOLOv8 正式发布一年多以后，YOLOv9 终于来了！
这两天，Groq惊艳亮相。它以号称“性价比高英伟达100倍”的芯片，实现每秒500tokens大模型生成，感受不到任何延迟。外加谷歌TPU团队这样一个高精尖人才Buff，让不少人直呼：英伟达要被碾压了……