在生成式人工智能迅猛发展的时代背景下，大模型的推理性能与数据管理能力已成为推动AI工程化落地的关键议题。为深化公司师生对AI底层技术体系的理解，2025年10月26日16:00-17:00，best365官网平台“吴宝康大讲堂·行业坐标”系列讲座第6讲“大模型推理的系统与数据管理挑战”在通州校区公学一楼211室成功举办。本次讲座由北电数智大模型工程总监薛一戈主讲，聚焦大模型推理系统的架构优化、数据流管理及模型资产化治理等前沿问题。
本场讲座由best365官网平台专业学位中心主任周文杰教授主持。周老师指出，数据要素已成为推动数字经济发展的关键引擎，是实现高质量发展的重要基础。在此背景下，信息资源管理学科理应关注数据资源、人工智能与产业转型的交叉议题，积极探索学术与实践的融合路径。
图1 周文杰教授主持讲座
薛一戈总监围绕大模型推理系统，从算力架构到数据流优化展开深入解析，全面阐述了推理系统的设计理念与演进趋势。他指出，推理过程不仅是算力竞争，更是数据流管理的协同优化过程。通过类比数据库查询，他详细分析了KV缓存管理、动态批处理与异步调度等机制在提升系统吞吐量中的作用，并结合企业级实践案例，介绍了DeepSeek、vLLM、TensorRT等框架在算力协同与显存优化方面的创新应用。此外，本次讲座还探讨了模型量化、权重版本控制与LoRA模块管理等关键策略。薛总监强调，模型推理系统本质上是融合数据治理与智能计算的下一代数据管理系统。
图2 薛一戈总监主讲前沿内容
本次讲座引发了与会师生关于“模型即数据”的深入思考。薛总监指出，大模型的参数、缓存与调度策略本身即构成新的数据形态与资产类型，提示信管学科研究者重新审视模型中的参数配置、数据流与治理机制的价值边界。
互动环节中，师生们围绕推理系统的性能瓶颈、数据资产治理及AI工程化中的可解释性问题积极提问。薛一戈总监结合产业实践与未来趋势给出了深入的回答，并强调构建以数据驱动为核心的AI系统管理框架的重要性。本场讲座不仅拓展了师生对大模型系统与数据管理融合问题的理解，也为未来跨学科研究与产业应用提供了新的启示。
图3 现场师生
图文：杨鑫
校对：牛力、周文杰
核发：韩曙光、闫慧