东南大学校徽 东南大学 · 计算机科学与技术学院

林望舒

2022 级本科生 · 申请 2026 级博士研究生 · 高性能计算实验室

研究兴趣:机器学习系统 / 大模型推理优化 / 高效深度学习编译

138 0000 0000 wangshu.lin@example.com wangshu.example.com github.com/example

RESEARCH CV Systems × AI PhD Application

教育背景

东南大学 · 计算机科学与技术 · 工学学士
  • 成绩排名:GPA 3.87 / 4.0,专业排名 2 / 186;核心课程:机器学习、计算机体系结构、操作系统、编译原理、概率论与数理统计。
  • 外语水平:CET-6 601,TOEFL 105(Speaking 23);能够熟练阅读英文文献并撰写英文论文。
南山大学 · 计算机科学 · 学期交换
  • 修读《高级机器学习》《分布式系统》并均获 A;参与系里公开组会与论文研读讨论。

科研经历

面向长上下文推理的 KV 缓存压缩 · 校级科研训练项目(SRTP)核心成员

指导教师:周砚秋 教授 · 高性能计算实验室

41%显存峰值降低 128K单卡稳定上下文 12评测数据集 MLSys 2026 Workshop
Under Review
  • 问题与动机:针对长上下文场景下 KV 缓存显存占用随序列长度增长的问题,调研 PagedAttention、量化与稀疏化三条技术路线并形成综述报告。
  • 方法与实现:在 vLLM 推理框架上实现分块 KV 缓存与按需淘汰策略,结合 token 重要性评分将显存峰值降低 41%,支撑 128K 上下文在单卡 A100 上的稳定推理。
  • 实验与验证:设计覆盖 12 个数据集、3 类负载的评测流水线,与 5 个基线方法对比吞吐与精度损失,已投稿 MLSys 2026 Workshop(在审)。
大规模分布式训练加速 · 云启科技 AI 平台部 科研实习
  • 个人工作:参与千卡集群训练任务的性能剖析,定位通信与计算重叠不足的瓶颈,重构梯度同步路径并实现分桶重叠调度。
  • 量化结果:在 512 卡 BERT-Large 预训练任务上将端到端吞吐提升 18%,相关优化合入内部训练框架并沉淀 2 篇技术文档。
  • 协作方式:与 SRE 团队共建故障注入与容错测试集,完成 3 轮集群级演练报告,训练中断恢复时间从分钟级降至秒级。
  • 技术沉淀:调研通信量化与稀疏梯度在混合精度训练中的适用边界,输出内部技术评审报告并被采纳为后续迭代方向。
轻量级推理引擎内核优化 · 课程综合设计(评分 A+,全班前 3%)
  • 基于 C++ / CUDA 实现算子融合与 Winograd 卷积优化,在 ImageNet 子集上将 ResNet-50 推理延迟降低 27%。
  • 编写完整的基准测试与数值一致性校验脚本,代码以开源形式整理并附实验复现说明。

论文与成果

  1. Wangshu Lin, Yanqiu Zhou, et al. "Block-wise KV Cache Compression for Long-context LLM Inference." MLSys 2026 Workshop 在审.
  2. 林望舒, 陈叙白. 《面向千卡集群的梯度同步分桶重叠调度方法》. 《东南大学学报(自然科学版)》已录用.
  3. Wangshu Lin, Xubai Chen. "Measuring Communication-Computation Overlap in Large-scale Training." 第一届学生系统研讨会海报(2025).

开源与学术服务

TorchKV · 开源 KV 缓存压缩工具库
  • 发起并维护(github.com/example/torchkv,950+ star),提供多种缓存淘汰与量化策略的可插拔实现,附完整文档与复现实验。
《计算机体系结构》课程助教 · 东南大学
  • 负责实验课答疑与 RISC-V 流水线作业批改,整理 3 份被后续学期沿用的实验讲义。

荣誉与奖项

未来研究设想

专业技能