AI资讯新闻榜单内容搜索-o

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: o
Flash Attention稳定吗?Meta、哈佛发现其模型权重偏差呈现数量级波动

Flash Attention稳定吗?Meta、哈佛发现其模型权重偏差呈现数量级波动

Flash Attention稳定吗?Meta、哈佛发现其模型权重偏差呈现数量级波动

众所周知,大语言模型的训练常常需要数月的时间,使用数百乃至上千个 GPU。以 LLaMA2 70B 模型为例,其训练总共需要 1,720,320 GPU hours。由于这些工作负载的规模和复杂性,导致训练大模型存在着独特的系统性挑战。

来自主题: AI技术研报
8471 点击    2024-05-12 15:49
70亿LLaMA媲美5400亿PaLM!MIT惊人研究用「博弈论」改进大模型|ICLR 2024

70亿LLaMA媲美5400亿PaLM!MIT惊人研究用「博弈论」改进大模型|ICLR 2024

70亿LLaMA媲美5400亿PaLM!MIT惊人研究用「博弈论」改进大模型|ICLR 2024

大模型回答如何更可靠?MIT研究团队设计出「共识博弈」,将数学家常用的博弈论引入LLM改进中。没想到,LLaMA-7B的表现,击败了LLaMA-65B,甚至与PaLM-540B相媲美。

来自主题: AI技术研报
9504 点击    2024-05-12 15:19
OpenAI谷歌苹果再燃AI争霸战,谁将担纲「Her」时代王者?

OpenAI谷歌苹果再燃AI争霸战,谁将担纲「Her」时代王者?

OpenAI谷歌苹果再燃AI争霸战,谁将担纲「Her」时代王者?

从下周开始,硅谷科技巨头将开启新一轮的AI大战。OpenAI、谷歌、苹果都将押注AI助手,并发布一系列重磅更新,你准备好了?

来自主题: AI资讯
8681 点击    2024-05-12 14:55
小心!最新AI看一眼照片就定位你在哪里,精确到经纬度

小心!最新AI看一眼照片就定位你在哪里,精确到经纬度

小心!最新AI看一眼照片就定位你在哪里,精确到经纬度

现在,AI只需随意一张照片,就能知道你在哪里,而且是可以精确到经纬度的那种! 例如下面这张随便到不能再随便的自拍,你能猜到小姐姐在哪里吗?

来自主题: AI资讯
10761 点击    2024-05-12 14:35
国产大模型:今天起,我们100万tokens只需1元!

国产大模型:今天起,我们100万tokens只需1元!

国产大模型:今天起,我们100万tokens只需1元!

昨天刚刚在顶会ICLR作为特邀演讲(Invited Talk)中“国内唯一”的大模型玩家智谱AI,今天又放出了一个好消息

来自主题: AI技术研报
10663 点击    2024-05-12 12:35
人类偏好就是尺!SPPO对齐技术让大语言模型左右互搏、自我博弈

人类偏好就是尺!SPPO对齐技术让大语言模型左右互搏、自我博弈

人类偏好就是尺!SPPO对齐技术让大语言模型左右互搏、自我博弈

Richard Sutton 在 「The Bitter Lesson」中做过这样的评价:「从70年的人工智能研究中可以得出的最重要教训是,那些利用计算的通用方法最终是最有效的,而且优势巨大。」

来自主题: AI技术研报
7856 点击    2024-05-12 11:26