参数少80%，效果仍超LoRA！上交大&上海AI Lab推出高效微调框架FLoRA
参数少80%，效果仍超LoRA！上交大&上海AI Lab推出高效微调框架FLoRA为了让大模型在特定任务、场景下发挥更大作用，LoRA这样能够平衡性能和算力资源的方法正在受到研究者们的青睐。
来自主题: AI技术研报
12064 点击 2024-07-04 11:05
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
为了让大模型在特定任务、场景下发挥更大作用，LoRA这样能够平衡性能和算力资源的方法正在受到研究者们的青睐。
马斯克连回两条推文为xAI造势，宣布8月发布Grok 2，年底将推出在10万张H100上训练的Grok 3，芯片加持创新数据训练，打造对标GPT的新一代大语言模型。
「忙碌海狸」难题困扰了计算机科学家40多年。如今，来自全球各地20+业余开发者和数学家们，终于取得了突破性进展。他们抓到了第五只忙碌海狸——用Coq辅助证明，得到答案47176870。对此陶哲轩激动地表示，这再次体现了证明助手对数学研究协作的重要性。
本文研究发现大语言模型在持续预训练过程中出现目标领域性能先下降再上升的现象。
MSK领域AI结合数字医疗方案快速发展。
随着技术的不断进步，AI智能数字人主播正逐渐走进大众视野，成为直播带货、新闻播报、知识讲解等领域的新宠，但通过塑造的AI虚拟形象，仍存在着很多不确定性。
只需几分钟、一张图或一句话，就能完成时空一致的4D内容生成。
在28日凌晨举办的Config2024大会上，Figma又迎来一次大更新。不仅优化页面布局，而且正式推出Figma AI加入AI大模型混战，有望让人人成为「设计大神」。
从MIT辍学后，华裔少年Alexandr Wang开始建立自己的初创公司，从此开始走向人生巅峰。押对数据标注方向后，他在27岁时就成为了亿万富翁。The Information刚刚发了长文，爆料了Wang的公司崛起的内幕。
Claude 3.5 Sonnet的图表推理能力，比GPT-4o高出了27.8%。 针对多模态大模型在图表任务上的表现，陈丹琦团队提出了新的测试基准。 新Benchmark比以往更有区分度，也让一众传统测试中的高分模型暴露出了真实能力。