8人小团队单挑OpenAI，半年仿出GPT-4o，还开源了
8人小团队单挑OpenAI，半年仿出GPT-4o，还开源了最近，一个对标 GPT-4o 的开源实时语音多模态模型火了。
来自主题: AI资讯
9594 点击 2024-07-05 00:17
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
最近，一个对标 GPT-4o 的开源实时语音多模态模型火了。
Scaling Law 持续见效，让算力就快跟不上大模型的膨胀速度了。「规模越大、算力越高、效果越好」成为行业圭皋。主流大模型从百亿跨越到 1.8 万亿参数只用了1年，META、Google、微软这些巨头也从 2022 年起就在搭建 15000 卡以上的超大集群。「万卡已然成为 AI 主战场的标配。」
随着 AI 工具的不断增多，各家模型的能力也日益提升，现在无论哪款大模型几乎都能够处理各种翻译难题。
GPT-4o或许还得等到今年秋季才对外开放。不过，由法国8人团队打造的原生多模态Moshi，已经实现了接近GPT-4o的水平，现场演示几乎0延迟，AI大佬纷纷转发。
张雪峰和AI，各做各的生意
为了让大模型在特定任务、场景下发挥更大作用，LoRA这样能够平衡性能和算力资源的方法正在受到研究者们的青睐。
马斯克连回两条推文为xAI造势，宣布8月发布Grok 2，年底将推出在10万张H100上训练的Grok 3，芯片加持创新数据训练，打造对标GPT的新一代大语言模型。
「忙碌海狸」难题困扰了计算机科学家40多年。如今，来自全球各地20+业余开发者和数学家们，终于取得了突破性进展。他们抓到了第五只忙碌海狸——用Coq辅助证明，得到答案47176870。对此陶哲轩激动地表示，这再次体现了证明助手对数学研究协作的重要性。
本文研究发现大语言模型在持续预训练过程中出现目标领域性能先下降再上升的现象。
MSK领域AI结合数字医疗方案快速发展。