实锤，我崩溃了，LLM根本无法100%根除幻觉
实锤，我崩溃了，LLM根本无法100%根除幻觉这个小假期，让我感觉很崩溃的是，一项新的研究彻底打破了我们的幻想：LLM的幻觉问题不仅难以解决，而且 从根本上来说是无法100%完全消除的。
来自主题: AI资讯
8893 点击 2024-09-18 16:53
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
这个小假期，让我感觉很崩溃的是，一项新的研究彻底打破了我们的幻想：LLM的幻觉问题不仅难以解决，而且 从根本上来说是无法100%完全消除的。
AI PC的飞跃增长时期，将在2025年和2026年来临。
除了蛋白质设计和药物发现，Nature上最近刊登的一篇论文又解锁了AlphaFold这类生物大模型的新用途——揭示生物的亲缘关系和进化史。
AI领域迎来了一位重量级选手—书生·筑梦2.0（Vchitect 2.0），由上海AI实验室团队发布。
近期 Gartner发布了《新兴技术成熟度曲线》，其中生成式 AI （GenAI） 正式进入到了幻灭期。
技术造成的「风评被害」，也得靠技术来解决。
发布不到1周，OpenAI最强模型o1的护城河已经没有了。
OpenAI用o1开启推理算力Scaling Law，能走多远？
大型语言模型（LLMs）虽然进展很快，很强大，但是它们仍然存在会产生幻觉、生成有害内容和不遵守人类指令等问题。一种流行的解决方案就是基于【自我纠正】，大概就是看自己输出的结果，自己反思一下有没有错，如果有错就自己改正。目前自己纠正还是比较关注于让大模型从错误中进行学习。
北京时间 9 月 13 日午夜，OpenAI 发布了推理性能强大的 ο1 系列模型。之后，各路研究者一直在尝试挖掘 ο1 卓越性能背后的技术并尝试复现它。当然，OpenAI 也想了一些方法来抑制窥探，比如有多名用户声称曾试图诱导 ο1 模型公布其思维过程，然后收到了 OpenAI 的封号威胁。