基于双模动态循环的大语言模型知识能力持续拓展方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于双模动态循环的大语言模型知识能力持续拓展方法
申请号:CN202510843363
申请日期:2025-06-23
公开号:CN120806083A
公开日期:2025-10-17
类型:发明专利
摘要
本发明涉及自然语言处理技术领域,公开了一种基于双模动态循环的大语言模型知识能力持续拓展方法,通过模态转换机制单元控制LLM在清醒和睡眠模态间循环切换:清醒模态下,RAG模块收集清洗新数据构建知识库,基于用户问题检索知识并调用VertiLLM生成答案;当数据量达阈值且资源空闲时切换至睡眠模态,启动续训模块,利用清洗数据生成训练数据对LLM进行参数调整,生成经测试验证的新VertiLLM模型后更新至RAG模块,同时删除已训练数据;RAG模块通过检索增强技术提升即时知识,续训模块通过继续训练巩固专业知识。该方法实现了大语言模型知识能力的动态持续拓展,解决了传统模型知识更新滞后的问题,具有自动化程度高、资源利用率优等特点。
技术关键词
生成训练数据 自动化工具 模块 生成用户 动态 生成答案 语义 生成主题 预训练模型 文本 大语言模型 数据分布 格式 条目 参数 数据更新 自然语言 记忆