基于约束感知自学习推理的大语言模型指令优化方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于约束感知自学习推理的大语言模型指令优化方法
申请号:CN202510853690
申请日期:2025-06-24
公开号:CN120654834A
公开日期:2025-09-16
类型:发明专利
摘要
本发明提供了一种基于约束感知自学习推理的大语言模型指令优化方法方法,可以应用于自然语言处理和人工智能技术领域。该方法包括:在冷启动训练阶段,利用由预训练语言模型生成的思维链示例辅助目标大语言模型识别训练指令集中的约束,其中,训练指令集中的约束包括硬性约束和软性约束;利用思维链示例和训练标注数据对目标大语言模型进行监督微调以使目标大语言模型的思维链生成过程满足硬性约束和软性约束;在自我学习训练阶段,利用硬性约束和软性约束构建约束满意度评估机制,并基于约束满意度评估机制,通过强化学习算法对目标大语言模型的思维链生成策略进行优化。
技术关键词
大语言模型 强化学习算法 指令优化方法 自动问答系统 摘要 样本 文本 生成模板 机制 预训练语言模型 阶段 策略 数据 人工智能技术 风格 自然语言 时效性 标签