一种基于多维度内存监控的大模型内存越界检测系统及方法、装置、介质

本申请涉及高性能计算领域，涉及一种基于多维度内存监控的大模型内存越界检测系统及方法、装置、介质。用户接口层通过检测控制台和策略配置器实现检测启停、采样率设置及规则定制；框架适配层集成框架钩子引擎劫持内存分配器及计算图执行引擎，并由动态插桩管理器在主机端插入元数据追踪代码、设备端通过CUDA PTX/NVRTC向并行计算Kernel注入地址检查指令；内存监控核心层包含全局内存元数据库、基于滑动窗口算法的自适应检测引擎动态调整检测频率、以及通过虚拟地址转换表统一管理CPU/并行计算单元/TPU内存映射的异构设备管理器；硬件资源层提供底层计算设备及内存支持。本发明显著提升大模型运行稳定性与安全性。