笔记本跑7000亿参数GLM!无GPU也行? SSD当显存用火爆GitHub
笔记本跑7000亿参数GLM!无GPU也行? SSD当显存用火爆GitHubGitHub火热开源项目Colibrì以纯C实现分层推理框架,通过AI内存多层化将SSD、RAM和VRAM组成动态调度系统,无需GPU即可让普通笔记本运行744B参数GLM-5.2等超大MoE模型,已揽获32k Star并支持9个模型家族。
搜索
GitHub火热开源项目Colibrì以纯C实现分层推理框架,通过AI内存多层化将SSD、RAM和VRAM组成动态调度系统,无需GPU即可让普通笔记本运行744B参数GLM-5.2等超大MoE模型,已揽获32k Star并支持9个模型家族。
今年,AI 创业到底往哪里走,变得比过去更难判断。 模型公司不断向应用层下探,一些 To C 产品刚找到的功能,可能下一次模型更新就会被直接覆盖。另一边,机器人、世界模型等概念又速升温,越来越多创业公
本周「十字路口」的嘉宾是清华叉院助理教授徐梦迪。从清华车辆工程出发,途经 Johns Hopkins、CMU,再到 Stanford 吴佳俊、李飞飞组做博士后,2024 年初她选择回国,加入清华交叉信息研究院。她的核心命题是机器人的 In-Context Learning (ICL):让机器人到一个新环境,通过一两次交互当场学会新任务,而且越学越快。
AI 行业,模型任务分工开始更加垂直。
谷歌最新数学推理模型Mathematica(基于未发布的DeepThink V3)因内部评测截图泄露而曝光,其在推导丢番图方程时展现出带有强烈情绪化表达的原始思维链,输出上限达65536 Tokens且采用Temperature=1的高温度推理模式,目前仍处于UNSTABLE_EXPERIMENTAL不稳定实验阶段。
Ora-Orb」创始人孙峰认为,AI占卜产品的仪式感无法仅靠软件实现,因此团队选择以水晶球为硬件形态切入玄学赛道,产品定价365美元,计划明年1月登陆CES并通过Kickstarter众筹验证市场。
Anthropic在旧金山湾区秘密建立生物湿实验室,将Claude接入真实生物实验,并通过自研的Model Hardware Standard让模型直接控制实验设备,以补齐AI药物研发中真实世界验证速度滞后于设计的短板。
上周六,陶哲轩、邓煜、彼得·舒尔茨等 25 位菲尔兹奖得主联合发表了一份声明《人工智能在数学中的严重错位》,引发广泛讨论。陶哲轩还表示「事态紧迫」,他们根本没有时间等待更广泛的协商就决定先行发布。
如今的 AI 已经能顺畅地帮你写代码、跑实验、做评估。算法工程师的每一天,几乎变成了:让 LLM 整理昨天的实验结果,让 LLM 实现新想法,让 LLM 监控实验运行…… 似乎只需把需求告诉 AI,它就能完成大部分算法工作。
BuilderHub本周推荐6个AI项目,包括VIRSE、Stances、ACE、橡果Oaky、Citely和CCX,涵盖AI设计基础设施、语言学习与决策研究、AI音乐平台、个人内容系统、合规决策工具及多模型API网关等方向。