给Transformer降降秩，移除特定层90%以上组件LLM性能不减
给Transformer降降秩，移除特定层90%以上组件LLM性能不减MIT、微软联合研究：不需要额外训练，也能增强大语言模型的任务性能并降低其大小。
来自主题: AI资讯
2531 点击 2023-12-26 14:55
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
MIT、微软联合研究：不需要额外训练，也能增强大语言模型的任务性能并降低其大小。
AI电商时代的到来给电商行业带来了巨大的变化，各种AI工具已经在电商领域广泛应用。然而，企业在迎接这个时代的挑战时需要关注算力、数据隐私、安全问题和人才培养等方面。
12 月 26 日消息，谷歌近日推出了全新的 Google AI SDK，旨在简化 Android 应用集成其高性能的 Gemini Pro 模型。借助该 SDK，开发人员无需构建和管理自己的后端基础架构。
. 12月底，《自然-计算科学》发表研究，揭示丹麦科技大学国际研究团队的新产品——“Life2vec”的预报原理。它可以直接预测人的死亡率，准确率高达78%，据称是目前市面上准确度最高的预测方式。团队使用七年间超过230万名35至65岁丹麦人群的数据，分析个人生命历程中的事件序列，预测接下来最有可能发生的事情。
今年的 AIGC 持续热了一年，从王慧文等大佬的入局，到百度发布“文心一言”，各大巨头纷纷发布大模型产品，切实地给中国人工智能赛道的融资添了一把浓烈的火。
若愚科技与哈工深联合研发了语言大模型基座---立知和多模态大模型基座---九天，总参数规模达130亿，训练数据超1500B tokens, 能完成多任务、多轮对话、中英翻译、思维链、工具使用等多种类型的指令数据
想将一份文档图片转换成Markdown格式？这一次，只需一句话命令，多模态大模型Vary直接端到端输出结果：
12 月 15 日-12 月 17 日，由 Founder Park、飞桨、文心大模型联合主办的 AGI Hackathon 经过两天的创新开发和第三日的路演，目前已全部结束。
游戏行业真在加速拥抱大语言模型等AI技术，不论是大厂还是独立游戏制作人，都开始依靠LLM的技术创立全新的AI NPC体验。
AI时代，中国大模型进展到哪了？12月20日，「数字力量，探索无穹」2023探索大会上，新智元创始人&CEO杨静，与百川智能技术联创陈炜鹏、商汤科技数字文娱事业部总经理栾青、蓝驰创投投资合伙人石建平共话中国大模型的创新探索。