提升大模型内在透明度：无需外部模块实现高效监控与自发安全增强｜上海AI Lab & 上交
提升大模型内在透明度：无需外部模块实现高效监控与自发安全增强｜上海AI Lab & 上交大语言模型（LLM）能力提升引发对潜在风险的担忧，洞察其内部“思维过程”、识别危险信号成AI安全核心挑战。
来自主题: AI技术研报
8831 点击 2025-06-23 14:58
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
大语言模型（LLM）能力提升引发对潜在风险的担忧，洞察其内部“思维过程”、识别危险信号成AI安全核心挑战。
据《金融时报》报道，由OpenAI 前CTO Mira Murati 创立的隐秘人工智能初创公司 Thinking Machines Lab 已完成 20 亿美元种子轮融资 。这笔交易使这家成立仅 6 个月的初创公司估值达到 100 亿美元。
“对发现问题的投入，与解决问题同样重要。”这是上海人工智能实验室主任周伯文在首届明珠湖会议所作开场报告中的核心观点之一。
6 月 16 日，腾讯 AI Lab 推出并开源 SongGeneration 音乐生成大模型，专注解决音乐 AIGC 中音质、音乐性与生成速度这三大共性难题
今年上半年，最吊足胃口和期待的，莫过于 Agent 工具，饼画得都很大：日常中那些烧脑、重复、耗时间的任务，现在似乎只需要动动手指、敲几行 prompt 就能搞定。
大模型学习不仅要正确知识，还需要一个“错题本”？
思维链（Chain of Thought, CoT）推理方法已被证明能够显著提升大语言模型（LLMs）在复杂任务中的表现。而在多模态大语言模型（MLLMs）中，CoT 同样展现出了巨大潜力。
据自媒体“申妈的朋友圈”消息，知情人士透露，字节人工智能实验室 （AI Lab） 负责人李航已经正式卸任，他在内部系统的身份变为劳务/顾问。
让网页智能体自演进突破性能天花板！
为了推动该领域加速健康发展，由上海交通大学、上海 AI 实验室、牛津大学、普林斯顿大学、Meta 等十个机构联合推出的 MASLab，带来首个统一、全面、研究友好的大模型多智能体系统代码库：