LLM实时推理

课题背景： 游戏领域对实时性的严苛要求对大模型实时推理提出了更高要求，当前大模型推理能力的提升往往伴随推理耗时的增加，制约了低延时智能体在游戏场景的落地。本课题依托游戏场景具备干净可扩展的模拟环境的优势，研究大模型实时推理技术，面向实时推理场景探索复杂任务指令与高质量轨迹数据生成模拟环境构建、异步思考架构、大规模实时推理训练等技术，提升大模型推理质量和速度，从而构建高情商、高智商的单/多智能体系统。 课题挑战：

1. 01

   如何突破大模型”单脑慢思考“模式与人类”双脑快慢思考”模式间的差异；

2. 02

   如何优化推理模型“思维链”质量，精简推理链长度、构建可曝光的推理链；

3. 03

   如何打破模型推理能力对参数规模的依赖，通过架构优化、数据质量与奖励优化降低激活参数；

4. 04

   如何构建模拟环境驱动的大规模数据合成与模型训练框架。 具体工作： 参与游戏场景大模型实时推理算法研发，包括但不限于大规模复杂推理数据合成与模拟环境构建、单智能体/多智能体实时推理架构设计、大模型实时推理训练等。

基本素质： 具备扎实的计算机科学、人工智能或应用数学理论基础，在人工智能领域有开阔的技术视野与优秀的研究能力。聚焦LLM实时推理、游戏智能体领域，展现出极强的独立科研攻坚能力与前瞻性思维，能深入探索游戏场景大模型实时推理技术。勇于挑战并突破技术瓶颈，具备长期主义精神。 技能要求： 熟练掌握大模型与智能体领域技术原理，如模型结构、智能体架构设计及模型后训练等技术，具备出色的大模型与智能体算法研究与工程化落地能力，擅长大规模的数据合成、分布式训练，能高效完成实验与技术验证。 加分项： 在大模型与智能体实时推理相关领域有突出成果，如NeurIPS/ICML/ICLR/ACL/CVPR 等人工智能领域顶级会议论文发表、高影响力技术报告/开源项目等。