预测token速度翻番!Transformer新解码算法火了,来自小羊驼团队|代码已开源
预测token速度翻番!Transformer新解码算法火了,来自小羊驼团队|代码已开源小羊驼团队的新研究火了。他们开发了一种新的解码算法,可以让模型预测100个token数的速度提高1.5-2.3倍,进而加速LLM推理。
搜索
小羊驼团队的新研究火了。他们开发了一种新的解码算法,可以让模型预测100个token数的速度提高1.5-2.3倍,进而加速LLM推理。
本文讨论了人工智能的进展速度,并认为进展速度并不快,而是比较慢。作者提到图灵测试2.0的重要性以及人工智能在商业领域的应用挑战。文章还讨论了人工智能发展对经济体系和个人生活的影响。
大模型人才薪酬高达百万年薪,成为热门岗位。这个信息来自本月vivo副总裁周围透露给媒体的消息,他称目前vivo大模型每年的投入成本为20亿~30亿元,其中人才和设备各占一半,人才成本平均税后为100万元。
传闻中OpenAI的Q*,已经引得AI大佬轮番下场。AI2研究科学家Nathan Lambert和英伟达高级科学家Jim Fan都激动的写下长文,猜测Q*和思维树、过程奖励模型、AlphaGo有关。人类离AGI,已是临门一脚了?
本文讨论了李开复投资的零一万物公司被指使用Facebook母公司META的Llama大模型的开源代码却未标明来源的问题。作者指出,此举涉嫌侵犯署名权,即抄袭。文章还探讨了零一万物公司和第三方开发者可能面临的法律风险。
最新发布的AI模型Inflection-2在各项基准测试中表现出色,仅次于OpenAI的GPT-4,但性能超越了谷歌和Meta的主流替代方案。Inflection-2的参数量达到1750亿,被认为是当今世界上第二强的大模型。
最近,除了大语言模型继续持续刷屏,视频生成技术也取得了重大进展,多家公司相继发布了新模型。首先,作为最早探索视频生成领域的领头羊之一,Runway 升级了其 Gen-2 模型,带来了电影级别的高清晰度,令人瞩目,并称视频生成的一致性得到了重大改进。
知名投资机构coatue发布115页《2023年人工智能产业链》报告,就 AI 的现状、改善我们生活的预期、AI 对一些行业的巨大影响、开源 AI 模型现状以及以 AI 为中心的技术栈机会等做了分享,认为最好的 AI 人工智能还没有到来。
月初刚测了GPT-4 Turbo上下文真实实力的大神Greg Kamradt又盯上了Anthropic刚更新的Claude 2.1。他自己花了1016刀测完之后显示,Claude 2.1在上下文长度达到90K后,性能就会出现明显下降。
据外媒 euronews 当地时间周三报道,西班牙首个 AI 模特 —— 一名 25 岁的粉色头发女性 Aitana 目前每拍一条广告可获得超过 1000 欧元(IT之家备注:当前约 7790 元人民币)的收入,