AI资讯新闻榜单内容搜索-TEN

关键词: PyTorch,注意力机制,大模型,人工智能,AI,模型训练

用 FlexAttention 尝试一种新的注意力模式。

关键词: AI,ChatGPT,人工智能,stentrode

不开颅，把 ChatGPT 装进脑子里？

关键词: Transformer,AI框架,模型训练,人工智能

七年前，论文《Attention is all you need》提出了 transformer 架构，颠覆了整个深度学习领域。

关键词: HBM,AI,AI芯片,AI硬件,算力

Tenstorrent推AI芯片挑战昂贵HBM，追求成本效益。

关键词: Llama 4,AI,Llama 3.1,大模型

最近，Latent Space发布的播客节目中请来了Meta的AI科学家Thomas Scialom。他在节目中揭秘了Llama 3.1的一些研发思路，并透露了后续Llama 4的更新方向。

关键词: Llama 405B,AI,模型训练,Chatbot Arena,AI

用来运行 Llama 3 405B 优势明显。

关键词: 英伟达,AI,AI芯片,H100,算力

740 TFLOPS！迄今最强 FlashAttention 来了。

关键词: Mamba,H100,AI,人工智能,模型训练

时隔一年，FlashAttention又推出了第三代更新，专门针对H100 GPU的新特性进行优化，在之前的基础上又实现了1.5～2倍的速度提升。

关键词: H100,AI,AI显卡,算力

大模型训练推理神作，又更新了！

关键词: AI,AI视频,大模型,PAB,Pyramid Attention Broadcast

尤洋团队新作，首个基于DiT的实时视频生成方法来了！