xuanxuan高性能计算与智能体
EN 免费订阅

新开了 AI 周刊，纯粹图个开心、交交朋友 请订阅，不用付费

让大规模计算提速，让智能体边做边学。

我是 xuanxuan（Xuan Jiang），加州大学伯克利分校博士、MIT Research Affiliate。我自 2019 年起从事 AI，研究混合专家模型（MoE）的微调、压缩及大规模运行所需的 GPU 通信，也和 reef 团队一起开发了自进化智能体，合著了 CORAL。

免费订阅周刊 看看项目
xuanxuan 的照片
时间线从 GPU 交通仿真到 AI 基础设施与智能体
  1. 同济大学学士，2016 至 2020 年
  2. 上海会米策AI 科学家，2019 至 2020 年
  3. 加州大学伯克利分校硕士及博士，2020 至 2024 年
  4. 劳伦斯伯克利国家实验室研究生研究员，2021 至 2023 年
  5. 麻省理工学院Research Affiliate，2023 年至今
  6. 谷歌软件工程师，2024 至 2026 年
  7. AWS Annapurna Labs高级 HPC/AI 工程师，2026 年至今
7
接触 AI 的年数
394
Google Scholar 引用
11
h-index
26
论文及预印本
30
reef、CORAL 已合并 PR

Google Scholar、GitHub，2026 年 10 月。年限自 2019 年起。

发表期刊与会议ICLRICMLCOLMEMNLPTransportation Research Part CIEEE T-ITSACM SIGSIM PADSTransportation Research RecordInformation FusionJournal of Air TransportationICRAT

论文插图

网格上的单次尝试基线与 CORAL 多连方填充结果对比
CORAL 多连方填充，COLM 2026
Qwen1.5-MoE 各层各专家中间维度的 Fisher 分数三维图，少数关键维度明显突出
Less is MoE 关键维度，EMNLP 2026
小型稠密模型、小型 MoE 与推理缩减三种策略及准确率曲线
ExpertCondenser 专家缩放，COLM 2026
Transformer 编码器、混合专家层、策略头与价值头
RAST-MoE-RL 网约车强化学习，ICML 2026
智能体图与一个示例展示快速检测、日志摘要和慢速检测流程
CloudAnoAgent 云系统异常检测，COLM 2026 Workshop on AI Measurement
飞机跨三维空中 GPU 网格分区，边界有幽灵区，下方可见部分地面层
城市空中交通需求与机队优化，IEEE T-ITS 2026
旧金山湾区地图上的彩色点标出候选垂直起降场位置
垂直起降场选址，Transportation Research Record 2025
Edge 1 的 a 至 d 车道划为网格，车辆在格间移动
LPSim 多 GPU 交通仿真，Transportation Research Part C 2024
曲线显示 128 至 32768 核的提交与执行事件数之比
Devastator 并行离散事件仿真，ACM SIGSIM PADS 2024
交通参数张量按块、节点和时间切片生成 token
TinT 城市级拥堵预测，Information Fusion 2023
研究

从模型到系统。

  1. MoE 与高效微调

    混合专家模型（MoE）的能力集中于少量 FFN 中间维度，很少被激活的长尾专家仍保留有用知识。我研究在压缩或微调时保留两者，并降低微调的 GPU 显存需求。

  2. GPU 通信

    专家并行时，每层都向其他 GPU 分发 token，再合并结果。我为此写内核和传输代码，也支持不保证按序交付的传输。

  3. 自进化智能体

    我开发能从自身记录和反馈中持续改进的智能体。它们可以更新模型权重，也可以修改提示词和规则。

  4. 高性能计算与仿真

    我从交通仿真开始做系统研究，用多张 GPU 模拟整座城市的交通，也研究城市空中交通的仿真。

开源

精选研究与开源工作。

多智能体研究，COLM 2026

CORAL

CORAL 让长期运行的智能体通过持久记忆共享经验，并异步探索、反思与协作。论文报告了 10 项任务上的新最优结果。

阅读论文
13631103

四个 CORAL 智能体协同进化，降低了 Anthropic 内核工程任务的已知最低周期数。
一个专家 FFN 的连线按 Fisher 重要性着色，保留重要性最高的 50% 中间维度，其余删除
MoE 压缩，EMNLP 2026

Less is MoE

模型能力集中在稀疏的 FFN 中间维度：Qwen1.5-MoE 去掉 135 万维中的 12 维，GSM8K 准确率便骤降。按 Fisher 重要性压缩 50% 后，模型基本保留能力，权重内存减少约 45%，推理吞吐提高 21%。

阅读论文
路由器含可训练偏置，路由专家旁为始终激活的凝聚专家
MoE 微调，COLM 2026

ExpertCondenser

该方法无需辅助损失，用偏置驱动稀疏化与始终激活的门控凝聚专家保留长尾专家知识，在数学推理与常识问答上比 DenseMixer 和 ESFT 平均提升超过 2.5%。

阅读论文
  1. 仿真系统，Transportation Research Part C 2024 LPSim 我开发了多 GPU 交通仿真器 LPSim：图划分把路网分到多块 GPU，车辆跨分区时经幽灵区迁移。单块 GPU 几秒内就能处理超过 22.3 万个节点的路网。我还与 James Demmel 以及 Roofline 模型的提出者 Samuel Williams 一起，深入优化了 LPSim 的性能。 查看代码
  2. 模型微调，ICLR 2025 Sparse Matrix Tuning SMT 只更新梯度中最显著的子矩阵，在 LLaMA 系列模型的多项任务上优于 LoRA 和 DoRA，显存占用比全量微调减少 67%。 阅读论文
  3. 强化学习，ICML 2026 RAST-MoE-RL 这个 1200 万参数的模型用状态感知（regime-aware）建模和自注意力混合专家编码器决定网约车订单与车辆批量匹配前等多久，在旧金山真实轨迹上将平均匹配延迟降低 10%，接驾延迟降低 15%。 阅读论文
  4. 空中交通，ICRAT 2024最佳论文奖 Wind-Resilient AAM Networks 这套仿真优化框架将风况变化纳入先进空中交通（AAM），结合多座垂直起降场的非线性充电模型优化机队规模与调度。即使航程较短，风也会影响机队规模，航程越长，影响越大。 阅读论文
开源贡献

专家并行所需的GPU 通信。

下面是我署名提交的混合专家模型（MoE）通信层开源贡献。

  1. DeepEPdeepseek-ai/DeepEP 我的 PR 新增可选的分发与合并内核，仅需弱信号，让混合模式支持不保证按序交付的传输。EFA 版本已在 amazon-contributing/DeepEP 开源，我在 awsome-distributed-ai 中编写的示例可在 EFA 集群上构建该版本。 PR 待合并查看 PR #732EFA 代码仓库EFA 构建示例
  2. NVSHMEMNVIDIA/nvshmem 我与 NVSHMEM 团队为 3.7.0 改进 libfabric 传输的 RMA 批处理，修复信号路径死锁与卡死，排空完成队列并做发布前测试。 随 3.7.0 发布我的提交
  3. vLLMvllm-project/vllm 修复 NCCL 2.31 及以后版本的主机堆损坏。 已合并查看 PR #53008
  4. rdmatopuccl-project/rdmatop 支持无界面 CSV 记录，按亚毫秒间隔采集 RDMA 计数器。 已合并查看 PR #48
自进化智能体

让智能体从自己的经验中学习。

我参与 reef、CORAL 两个开源自进化智能体系统的开发。reef 用交互记录和反馈更新模型权重或 harness（提示词、规则和技能）。CORAL 让长期运行的智能体通过共享持久记忆探索与协作。

reef 的学习循环按 reef 文档中的流程整理。
  1. 服务（Serve）响应请求并记录交互
  2. 观察（Observe）将反馈匹配到交互记录
  3. 改进（Grow）根据符合条件的记录生成更新
  4. 提交（Commit）评估候选，将通过的更新写入版本历史
开源，团队成员

reef

reef 将智能体推理、反馈、学习和版本化发布连接起来。

我是团队成员，提交了 25 个 PR，其中 18 个已合并。

我为 reef 添加 Claude Code harness 适配器和 CORAL 测试时训练示例，修复训练栈多个问题。我将论文的价值模型预热与学习率用于 SAO 示例，按论文新增批量为 128 的运行，记录结果与局限。

查看代码仓库 查看我的 PR
开源，COLM 2026

CORAL

CORAL 是开源自主研究系统，让编程智能体通过共享记忆开展探索与协作。

我是 CORAL 论文（COLM 2026）的合著者，提交了 14 个 PR，其中 12 个已合并。

我在大语言模型网关的请求日志里记录完整的流式响应，并加了一个提供请求头的回调接口。我也修复了命令行和智能体运行时的问题，并补充了文档。

查看代码仓库 在 arXiv 阅读论文 查看我的 PR
每周来信

写周刊图个开心，也想交交朋友。

我准备每周在 Substack 写一篇，聊 AI 领域有趣的想法和应用，也聊研究。订阅后，每篇都会发到邮箱。

在 Substack 订阅 去 Substack 看看

不收费，也不用承诺付费，可随时退订。

论文记录

发表的论文与预印本。

论文按时间从新到旧排列，可按主题筛选，也可以只看精选条目。完整的论文与预印本记录请见 Google Scholar。

  1. CORAL: Towards Autonomous Multi-Agent Evolution for Open-Ended Discovery

    Ao Qu*, Han Zheng*, Zijian Zhou*, Yihao Yan, Yihong Tang, Shao Yong Ong, Fenglu Hong, Kaichen Zhou, Chonghe Jiang, Minwei Kong, Jiacheng Zhu, Xuan Jiang, Sirui Li, Cathy Wu, Bryan Kian Hsiang Low, Jinhua Zhao, Paul Pu Liang

    Conference on Language Modeling (COLM), 2026

    arXiv代码
    被引 51 次

  2. RAST-MoE-RL: A Regime-Aware Spatio-Temporal MoE Framework for Deep Reinforcement Learning in Ride-Hailing

    Yuhan Tang*, Kangxin Cui*, Jung Ho Park*, Yibo Zhao*, Xuan Jiang, Haoze He, Jiangbo Yu, Haris N. Koutsopoulos, Jinhua Zhao

    International Conference on Machine Learning (ICML), 2026

    arXiv

  3. Preserving Long-Tailed Expert Information in Mixture-of-Experts Tuning

    Haoze He, Xingyuan Ding, Xuan Jiang, Xinkai Zou, Alex Cheng, Yibo Zhao, Juncheng Billy Li, Heather Miller

    Conference on Language Modeling (COLM), 2026

    arXiv代码
    被引 1 次

  4. Less is MoE: Trimming Experts in Domain-Specialist Language Models

    Haoze He*, Xinkai Zou*, Xuan Jiang, Xingyuan Ding, Ao Qu, Juncheng Billy Li, Heather Miller

    Conference on Empirical Methods in Natural Language Processing (EMNLP), 2026

    arXiv代码
    被引 2 次

  5. CloudAnoAgent: Anomaly Detection for Cloud Sites via LLM Agent with Neuro-Symbolic Mechanism

    Xinkai Zou, Xuan Jiang, Ruikai Huang, Haoze He, Parv Kapoor, Jinhua Zhao

    COLM 2026 Workshop on AI Measurement, 2026

    arXiv
    被引 6 次

  6. From Patchwork to Network: A Comprehensive Framework for Demand Analysis and Fleet Optimization of Urban Air Mobility

    Xuan Jiang, Xuanyu Zhou, Yibo Zhao, Shangqing Cao, Haoze He, Jinhua Zhao, Mark Hansen, Raja Sengupta

    IEEE Transactions on Intelligent Transportation Systems, 2026第一作者

    arXiv
    被引 1 次

  7. Evaluating Multi-Modal UAM Impacts at Metro Region Scale: A San Francisco Bay Area Study

    Xin Peng, Xuan Jiang, Vishwanath Bulusu, Emin Burak Onat, Raja Sengupta

    IEEE Transactions on Intelligent Transportation Systems, 2026

    论文

  8. Sparse Matrix in Large Language Model Fine-Tuning

    Haoze He*, Juncheng Billy Li*, Xuan Jiang, Heather Miller

    International Conference on Learning Representations (ICLR), 2025

    arXiv
    被引 38 次

  9. Simulation-Based Optimization for Vertiport Location Selection: A Surrogate Model with Machine Learning Method

    Xuan Jiang, Shangqing Cao, Baichuan Mo, Junzhe Cao, Hao Yang, Yuhan Tang, Mark Hansen, Jinhua Zhao, Raja Sengupta

    Transportation Research Record, 2025第一作者

    论文
    被引 15 次

  10. DRBO: A Regional Scale Simulator Calibration Framework Based on Day-to-Day Dynamic Routing and Bayesian Optimization

    Xuan Jiang, Yibo Zhao, Chonghe Jiang, Junzhe Cao, Alexander Skabardonis, Alex Kurzhanskiy, Raja Sengupta

    Smart Cities, 2025第一作者

    论文
    被引 6 次

  11. The Urban Air Mobility Fleet Scheduling Problem with Nonlinear Charging Time

    Shangqing Cao, Emin Burak Onat, Xuan Jiang, Raja Sengupta, Mark Hansen

    SSRN preprint, 2025

    论文

  12. Large Scale Multi-GPU Based Parallel Traffic Simulation for Accelerated Traffic Assignment and Propagation

    Xuan Jiang, Raja Sengupta, James Demmel, Samuel Williams

    Transportation Research Part C: Emerging Technologies, 2024第一作者

    论文arXiv代码
    被引 36 次

  13. A Simulation-Optimization Framework for Developing Wind-Resilient AAM Networks

    Emin Burak Onat, Shangqing Cao, Raiyan Rizwan, Xuan Jiang, Mark Hansen, Raja Sengupta, Anjan Chakrabarty

    International Conference on Research in Air Transportation (ICRAT), 2024最佳论文

    arXiv
    被引 5 次

  14. Devastator: A Scalable Parallel Discrete Event Simulation Framework for Modern C++

    John Bachan, Jianlan Ye, Xuan Jiang, Tan Nguyen, Mahesh Natarajan, Maximilian Bremer, Cy Chan

    ACM SIGSIM Conference on Principles of Advanced Discrete Simulation (PADS), 2024

    论文
    被引 6 次

  15. Designing a Time-Driven Simulation Framework for Large-Scale Traffic Networks

    Xuan Jiang

    ACM SIGSIM Conference on Principles of Advanced Discrete Simulation (PADS), 2024独立作者

    论文
    被引 10 次

  16. Simulating Integration of Urban Air Mobility into Existing Transportation Systems: Survey

    Xuan Jiang, Yuhan Tang, Junzhe Cao, Vishwanath Bulusu, Hao Yang, Xin Peng, Yunhan Zheng, Jinhua Zhao, Raja Sengupta

    Journal of Air Transportation, 2024第一作者

    论文
    被引 34 次

  17. Fleet Size and Spill for UAM Operation under Uncertain Demand

    Shangqing Cao, Xuan Jiang, Emin Burak Onat, Bo Zou, Mark Hansen, Raja Sengupta, Anjan Chakrabarty

    International Conference on Research in Air Transportation (ICRAT), 2024

    arXiv
    被引 17 次

  18. Robust Reinforcement Learning Strategies with Evolving Curriculum for Efficient Bus Operations in Smart Cities

    Yuhan Tang, Ao Qu, Xuan Jiang, Baichuan Mo, Shangqing Cao, Joseph Rodriguez, Haris N. Koutsopoulos, Cathy Wu, Jinhua Zhao

    Smart Cities, 2024

    论文
    被引 9 次

  19. Entropy-Based Dynamic Programming for Efficient Vehicle Parking

    Jean-Luc Lupien, Abdullah Alhadlaq, Yuhan Tang, Yan Wu, Jiayu Joyce Chen, Yutan Long, Xuan Jiang

    IEEE International Conference on Intelligent Transportation Systems (ITSC), 2024

    论文arXiv
    被引 2 次

  20. Integrating the Traffic Science with Representation Learning for City-Wide Network Congestion Prediction

    Wenqing Zheng, Hao Frank Yang, Jiarui Cai, Peihao Wang, Xuan Jiang, Simon Shaolei Du, Yinhai Wang, Zhangyang Wang

    Information Fusion, 2023

    论文
    被引 38 次

  21. An Automated Machine Learning (AutoML) Method for Driving Distraction Detection Based on Lane-Keeping Performance

    Chen Chai, Juanwu Lu, Xuan Jiang, Xiupeng Shi, Zeng Zeng

    INFORMS Annual Meeting, 2023

    arXiv
    被引 22 次

  22. A Metrics-based Method for Evaluating Corridors for Urban Air Mobility Operations

    Xuan Jiang, Xin Peng, Vishwanath Bulusu, Cristian Poliziani, Gano Chatterji, Raja Sengupta

    IEEE International Smart Cities Conference (ISC2), 2022第一作者

    论文
    被引 12 次

  23. Causality and Advanced Models in Trip Mode Prediction: Interest in Choosing Swissmetro

    Huy Pham, Xuan Jiang, Cong Zhang

    International Conference on Transportation and Development (ICTD), 2022

    论文
    被引 7 次

  24. Quantifying the Resilience of the US Domestic Aviation Network During the COVID-19 Pandemic

    Aleksandar Bauranov, Steven Parks, Xuan Jiang, Jasenka Rakas, Marta C. González

    Frontiers in Built Environment, 2021

    论文
    被引 45 次

  25. Making Sense of Electrical Vehicle Discussions Using Sentiment Analysis on Closely Related News and User Comments

    Xuan Jiang, Josh Everts

    International Conference on Transportation and Development (ICTD), 2021第一作者

    arXiv
    被引 17 次

  26. Chemical and Rheology Evaluation on the Field Short-Term Aging of High Content Polymer Modified Asphalt

    Weidong Huang, Chuanqi Yan, Xuan Jiang

    Transportation Research Board Annual Meeting, 2019

    论文
    被引 7 次
在 Google Scholar 查看完整记录

星号表示同等贡献。

学术经历

经历、荣誉与服务。

教育经历

  • 2016 至 2020 年同济大学学士。
  • 2020 至 2024 年加州大学伯克利分校硕士（2020 至 2021 年）及博士（2021 至 2024 年），研究机器学习与高性能计算。导师为 James Demmel、Raja Sengupta 和 Alexandre Bayen。

工作与研究经历

  • 2026 年至今Amazon Web Services (AWS), Annapurna Labs高级 HPC/AI 工程师。我负责优化大规模 GPU 集群的 GPU 通信性能和混合专家模型（MoE）的专家并行内核，并与 NVIDIA 的 NCCL 团队共同牵头推进 NCCL EP 在 EFA 上的适配。我曾共同主导 DeepEP v2 在 EFA 上的工作，并与 NVIDIA 的 NVSHMEM 团队合作，主导了 DeepEP v1 的 NVSHMEM 工作，相关改动已随 NVSHMEM 3.7.0 发布。
  • 2024 至 2026 年谷歌软件工程师。我主导了 AI 辅助的大规模代码变更工作流，以及基于 AI 的集成测试环境搭建。我还构建了用于智能体代码生成的多智能体框架，并在 Google Cloud Assist 中上线了基于告警的调查功能。
  • 2023 年至今MIT Research Affiliate，与 Jinhua Zhao 和 Haris Koutsopoulos 合作，用高性能仿真器研究复杂系统的强化学习优化。我们也研究用于云系统异常检测的大语言模型智能体。自 2026 年起，我也与 reef 团队合作开发自进化智能体，并合著了 CORAL（COLM 2026）。
  • 2022 至 2025 年加州大学伯克利分校 研究生研究员，2022 至 2024 年任职于 Aviation Innovation Research（AIR）Lab 和 Cal Unmanned Lab。2022 至 2025 年与 James Demmel 和 Raja Sengupta 合作研究高性能计算，用 GPU 做多模式时间驱动仿真。
  • 2022 至 2023 年华盛顿大学 STAR Lab研究助理，参与 TinT 城市级拥堵预测研究。
  • 2021 至 2023 年劳伦斯伯克利国家实验室研究生研究员。
  • 2019 至 2020 年上海会米策信息科技有限公司AI 科学家。

所获奖项

  • 2024ICRAT 最佳论文奖，轨迹与网络方向。
  • 2023ASCE ICTD 交通人工智能委员会优秀专场组织者奖。
  • 2022NSF AI Workshop 第二阶段旅行资助。
  • 2021Joseph M. Sussman 最佳论文奖。
  • 2020第六届中国国际“互联网+”大学生创新创业大赛金奖。
  • 2019上海市优秀学生。
  • 2018上海市创新创业项目奖。
  • 2017同济大学优秀学生干部。

教学经历

  • 2022 年秋季加州大学伯克利分校研究生助教（Graduate Student Instructor），课程为 Control and Information Management。
  • 2023 至 2024 年加州大学伯克利分校助教，课程为 Emerging Technologies for Public Health。

学术服务

  • 2024 年Frontiers in Built Environment专题编辑（“Advanced Technologies for Aviation Operations and Passenger Experience”）。
  • 2023 至 2024 年ASCE交通人工智能委员会成员，兼任其学生分委员会副主席。
  • 2023 至 2024 年ASCE慢行交通委员会（Active Transportation Committee）成员。

审稿

期刊审稿

  • IEEE Transactions on Intelligent Transportation Systems
  • IEEE Transactions on Industrial Informatics
  • Scientific Reports
  • Frontiers in Psychology

会议审稿

  • ICLR 2026
  • ICML 2026
  • CVPR 2026
  • ECCV 2026
  • COLM 2026
  • NeurIPS 2025
  • AAAI 2025
  • ITSC 2025
  • TRB Annual Meeting 2025

学生指导

我指导过的学生。

早年的科普工作

帮子豪做 AI 科普。

去美国之前，我帮子豪（同济子豪兄）在 B 站做 AI 科普频道。频道现在已有超过 35 万粉丝。

同济子豪兄 35 万+B 站粉丝 粉丝数截至 2026 年 10 月。 在 B 站关注
常联系

订阅我的周刊，也来交个朋友。

我的周刊不收费。如果你也在做 AI 基础设施、自进化智能体或大规模仿真，欢迎写信到 xuanj@mit.edu 打个招呼。

免费订阅周刊 给我写信 GitHub