非线性激活函数优化和SPU环境下自然语言模型推理提速方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
非线性激活函数优化和SPU环境下自然语言模型推理提速方法
申请号:CN202510840335
申请日期:2025-06-23
公开号:CN120745814A
公开日期:2025-10-03
类型:发明专利
摘要
本发明涉及人工智能与隐私计算交叉技术领域,尤其是一种非线性激活函数优化和SPU环境下自然语言模型推理提速方法。本发明首先观察非线性激活函数曲线,提取曲线转折点;然后基于曲线转折点对曲线进行分段,并构建各段非线性激活函数曲线的拟合函数;合并所有拟合函数作为优化后激活函数。本发明克服了现有技术中复杂的非线性激活函数影响大语言模型推理效率的缺陷,可在保证激活效果与原生激活函数无限逼近的情况下,简化激活计算指令,从而提高模型推理效率。
技术关键词
函数优化方法 自然语言模型 非线性 提速方法 曲线 多项式 大语言模型 存储器 处理器 分段 指令 参数