PyTorch官宣：告别CUDA，GPU推理迎来Triton加速新时代
PyTorch官宣：告别CUDA，GPU推理迎来Triton加速新时代用英伟达的GPU，但可以不用CUDA？PyTorch官宣，借助OpenAI开发的Triton语言编写内核来加速LLM推理，可以实现和CUDA类似甚至更佳的性能。
来自主题: AI技术研报
5860 点击 2024-09-07 11:26
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
用英伟达的GPU，但可以不用CUDA？PyTorch官宣，借助OpenAI开发的Triton语言编写内核来加速LLM推理，可以实现和CUDA类似甚至更佳的性能。
Nature子刊新研究「大脑时钟」可以判断一个人的大脑衰老速度是否快于实际年龄。结果显示，女性、不平等现象严重的国家和拉丁美洲国家的人，大脑衰老速度更快。
硬件发展速度跟不上 AI 需求，就需要精妙的架构和算法。
本文出自启元世界多模态算法组，共同一作是来自清华大学的一年级硕士生谢之非与启元世界多模态负责人吴昌桥，研究兴趣为多模态大模型、LLM Agents 等。本论文上线几天内在 github 上斩获 1000+ 星标。
视频理解仍然是计算机视觉和人工智能领域的一个主要挑战。最近在视频理解上的许多进展都是通过端到端地训练多模态大语言模型实现的[1,2,3]。然而，当这些模型处理较长的视频时，内存消耗可能会显著增加，甚至变得难以承受，并且自注意力机制有时可能难以捕捉长程关系 [4]。这些问题阻碍了将端到端模型进一步应用于视频理解。
近日，由北京大学人工智能研究院杨耀东课题组牵头完成的研究成果 ——「大规模多智能体系统的高效强化学习」在人工智能顶级学术期刊 Nature Machine Intelligence 上发表。
继吴恩达在今年 4 月红杉 AI 峰会演讲过去之后，Agent > GPT5？吴恩达最新演讲：四种 Agent 设计范式（通俗易懂版）。
今天的内容有点烧脑但绝对干货满满！
训练代码、中间 checkpoint、训练日志和训练数据都已经开源。
这篇文章介绍了一个名为MemLong的模型，它通过使用外部检索器来增强长文本建模的能力。
在信息过载的时代，快速而准确地传达信息显得尤为重要。
近日，Mamba方面又搞出了有意思的研究：来自康奈尔、普林斯顿等机构的研究人员成功将Llama提炼成了Mamba模型，并且设计了新的推测解码算法，加速了模型的推理。
就在刚刚，Ilya创业新公司SSI完成一笔10亿美元融资。公司仅仅成立3个月，10位成员，如此神速地拿到巨额融资。目前，公司估值高达50亿美金。
两天前，马斯克得意自曝：团队仅用122天，就建成了10万张H100的Colossus集群，未来还会扩展到15万张H100和5万张H200。此消息一出，奥特曼都被吓到了：xAI的算力已经超过OpenAI了，还给员工承诺了价值2亿期权，这是要上天？
Ilya Sutskever新创公司SSI筹资10亿美元。
报告显示，目前国内生成式AI应用快速发展，预计市场规模有望达到4000亿元。 9月3日，极光旗下月狐数据发布《AI生产力工具暑期发展报告》。数据显示，AI生产力工具在用户侧呈现高速增长态势，总体月活跃用户数量达1.7亿。其中，夸克APP实现暑期新增用户数量行业第一，凭借大模型、数据、场景等优势，让更多用户享受到一站式AI服务。
近年来，大模型在人工智能领域掀起了一场革命，各种文本、图像、多模态大模型层出不穷，已经深深地改变了人们的工作和生活方式。
论文的审稿模式想必大家都不会陌生，一篇论文除了分配多个评审，最后还将由PC综合评估各位审稿人的reviews撰写meta-review。
身边有人说，AI好像是前两年突然火起来的，一下子就成了我们今天熟悉的产品的模样。
大模型做奥赛题游刃有余，简单的数数却屡屡翻车的原因找到了。
内含一键部署教程
视觉语言模型（VLM）这项 AI 技术所取得的突破令人振奋。它提供了一种更加动态、灵活的视频分析方法。VLM 使用户能够使用自然语言与输入的图像和视频进行交互，因此更加易于使用且更具适应性。这些模型可以通过 NIM 在 NVIDIA Jetson Orin 边缘 AI 平台或独立 GPU 上运行。本文将探讨如何构建基于 VLM 的视觉 AI 智能体，这些智能体无论是在边缘抑或是在云端都能运行。
欢迎来到悄咪咪系列的第十二期！这一次我们将介绍四款产品。
近日，清华大学电子系城市科学与计算研究中心的研究论文《EconAgent: Large Language Model-Empowered Agents for Simulating Macroeconomic Activities》获得自然语言处理顶会 ACL 2024杰出论文奖（Outstanding Paper Award）。
DeepMind联合帝国理工学院的学者，专注于用神经网络方法对量子力学中经典的薛定谔方程进行近似求解。继2020年提出FermiNet后，团队的最新成果——求解量子激发态，登上Science。
在我的世界里，出现了有史以来第一个智能体文明。1000多个智能体一同协作，在虚拟世界中构建起，自己的经济、文化、宗教和政府。网友纷纷惊呼，西部世界真的来了。
英伟达市值，一夜蒸发2790亿美元，创下美股史上单日最大跌幅！一天的损失，都赶上卖出的所有AI芯片了。「打倒英伟达垄断」的汹涌民意，终于有了具象化的一天。同时，英伟达已收到美国司法部传票，可谓噩耗连连。
有助于解决阻碍材料开发的化学难题。
ChatGPT的出现引发了一场AI革命，它展示了通过简单对话就能完成各种任务的强大能力，并且将不同的 AI 功能整合到一个统一的平台上。还记得小编第一次使用 ChatGPT 的时候给我带来极大震撼。
据英伟达及其季度投资者近期更新发布的文件统计，第二季度营业额在四大神秘「重量级客户」的加持下翻倍增长，高达300亿。